Gefährliche Sicherheitssysteme

News: Gefährliche Sicherheitssysteme

Um menschliches Versagen auszuschließen, wurden Computersysteme entwickelt, die Flugzeugcockpits, Nuklearanlagen oder Intensivstationen überwachen. Doch nicht immer sind die Computer eine Hilfe, auch das genaue Gegenteil kann eintreten. Das zeigt eine neue Studie, in der Testpersonen Aufgaben mit und ohne Hilfe von Überwachungscomputern durchgeführt haben. Danach machen Menschen, die sich auf Computer verlassen, in einigen Situationen eher Fehler, als wenn sie diese Unterstützung nicht haben.

Die Psychologin Linda Skitka von der University of Illinois, Chicago, hat mit Kollegen von der San Francisco State University und dem NASA Ames Research Center in Moffett Field, Kalifornien, das Verhalten von 80 Studenten in einem Flugsimulator untersucht. Die Teilnehmer waren mit der Nutzung des Simulators vertraut gemacht worden und hatten zweimal fünf Minuten lang die Möglichkeit, mit dem Gerät zu üben.

Anschließend sollten die Studenten acht "Missionen" fliegen. Bei jedem dieser Flüge mußten sie insgesamt 100 Aufgaben bewältigen, wie zum Beispiel zu reagieren, wenn sie Leuchtfeuer passierten oder wenn sich die Anzeige eines Meßgerätes veränderte. Der Hälfte der Testpersonen stand neben den üblichen Instrumenten ein automatisches Computersystem zur Verfügung. Die Studenten wurden vor den Missionen gewarnt, daß das Computersystem nur fast perfekt arbeite, also nicht unfehlbar, die Instrumente dagegen absolut verläßlich seien. Tatsächlich war der Computer so eingestellt, daß er sechsmal einen falschen Hinweis gab und sechs Ereignisse unterschlug. Die zweite Testgruppe mußte sich von vornherein ganz ohne Computer zurechtfinden und sich auf die Instrumente alleine verlassen.

Die Studenten, die automatische Hinweise bekamen, verrichteten lediglich 59 Prozent der Tätigkeiten, auf die sie der Computer nicht hingewiesen hatte, und befolgten immerhin noch 65 Prozent der falschen Hinweise – obwohl die Meßintrumente richtig angezeigt hatten. Die andere Gruppe, die sich nur auf die Instrumente verlassen hatte, erfüllte ihre Aufgabe mit 97prozentiger Genauigkeit. Testpersonen, die von einem Computer unterstützt wurden, haben also keineswegs besser gearbeitet als die Gruppe, die sich ausschließlich auf die Meßinstrumente verlassen hatte. Skitka glaubt, daß wir Menschen Aufgaben delegieren, von denen wir meinen, daß sie nicht unsere volle Aufmerksamkeit benötigen – in diesem Fall an den Computer.

Computersysteme, die in kritischen Situationen als Stütze herangezogen werden, sollten zuverlässiger sein als in diesem Experiment. Und Arbeiter in Nuklearanlagen sind wesentlich besser ausgebildet als die Testpersonen. "Aber trotzdem ist hier kein Platz für Selbstzufriedenheit", so Skitka. "Ich denke, hier ist durchaus Grund zur Besorgnis, vor allem, weil automatische Entscheidungshilfen immer dort angewendet werden, wo ein kleiner Fehler schon eine Katastrophe bedeuten kann."

Flugüberwachungscomputer gewinnen immer größere Bedeutung in der zivilen Luftfahrt. Mit Blick auf Skiktas Untersuchungen ein gefährlicher Trend. Sie ist nicht der Meinung, diese Technologie gehöre abgeschafft. Sie empfiehlt eher einen kritischen Umgang mit den automatischen Systemen und eine Beschränkung auf Situationen, in denen Fehler besonders gefährliche Folgen haben können. Denn vorangegangene Studien haben gezeigt, daß sich ständiges Vordenken bei Menschen auf die Konzentration auswirkt, diese also nachläßt.

Piloten dazu zu bringen, sich von ihrer Computerhilfe zu trennen, ist nicht einfach. "Piloten mögen neue Technologie", sagt John Mazor, Sprecher der Air Line Pilots Association International, Washington DC. Allerdings, sagt er, wird die richtige Balance zwischen Kontrolle durch den Piloten und durch automatische Systeme nach wie vor diskutiert.

Der Heidelberger Verlag Spektrum der Wissenschaft ist Betreiber dieses Portals. Seine Online- und Print-Magazine, darunter »Spektrum der Wissenschaft«, »Gehirn&Geist« und »Spektrum – Die Woche«, berichten über aktuelle Erkenntnisse aus der Forschung.