Direkt zum Inhalt

Maschinen ohne Menschen

Während Futuristen wie Ray Kurzweil – Erfinder und technischer Direktor bei Google – es kaum erwarten können, dass technische Denkmaschinen die Stufe des menschlichen Bewusstseins erklimmen, warnen andere Autoren vor den Risiken, die mit der Automatisierung von Entscheidungsprozessen einhergehen. Der Publizist Nicholas Carr gehört zur zweiten Sorte. Sein Buch zitiert eine Fülle negativer Auswirkungen der computergestützten Automatisierung.

Anfang 2013 gab die US-Luftfahrtbehörde einen Sicherheitshinweis heraus: Flugkapitäne sollten wann immer möglich manuell fliegen, statt sich auf den Autopiloten zu verlassen. Der Anlass dieser Verlautbarung waren Unfälle auf Langstreckenflügen, bei denen verwirrende Alarmmeldungen untätige Piloten aus dem Halbschlaf gerissen hatten, worauf diese das bereits allzu langsame Flugzeug hochzogen, statt Gas zu geben, und es dadurch erst recht zum Absturz brachten.

Elektronischer Kurpfuscher

Andere Beispiele entnimmt der Autor dem Gesundheitswesen. Hier geschieht es immer öfter, dass automatische Expertensysteme aus gespeicherten Patientendaten Diagnosen erstellen und gleich noch die passende Therapie vorschlagen. Das kann bei ungewöhnlichen Symptomkombinationen, wie sie etwa die TV-Serie "Dr. House" mit Vorliebe präsentiert, zu krassen Fehlbehandlungen führen. Ein erfahrener Arzt ist eben nicht so einfach durch Computer zu ersetzen, meint Carr.

Das Argument überzeugt mich allerdings nicht. Ein intelligentes Expertensystem vermag im Prinzip wie ein Mensch aus Erfahrung zu lernen. Wenn es die seltene Krankheit einmal eingespeist hat, wird es sie beim nächsten Mal richtig diagnostizieren. Ein Computer, der so erfahren agiert wie der fiktive Dr. House, ist kein Ding der Unmöglichkeit. Das Gleiche gilt übrigens auch beim Fliegen: Der Autopilot könnte einen aufschlussreicheren Alarm auslösen – "wir sind nicht zu tief, sondern zu langsam!" – und zudem von sich aus richtig reagieren und Gas geben.

Viel überzeugender sind Carrs ökonomische Einwände gegen ein automatisiertes Gesundheitswesen: Es kostet nicht nur in der Anschaffung, sondern auch im Betrieb überraschend viel. Insbesondere verführt der Datenhunger der Expertensysteme die Ärzte dazu, kostspielige Tests wesentlich öfter als früher durchzuführen. Durch Automatisierung wird das Gesundheitswesen unterm Strich also nicht billiger, sondern teurer. Ähnliche Folgen könnte übrigens auch die weitere Modernisierung des Flugverkehrs nach sich ziehen. Generell ist unter Ökonomen umstritten, ob die computergestützte Automatisierung die Produktivität der Volkswirtschaft insgesamt erhöht; manche Studien besagen das Gegenteil.

Vage Zivilisationskritik

Das ändert nichts daran, dass die Technisierung weiter fortschreiten wird, denn wer auf diesen Zug nicht aufspringt, bleibt im Konkurrenzkampf zurück. Die gesellschaftlichen Kosten der Modernisierung – Vernichtung von Arbeitsplätzen, Gesundheitsprobleme, Bildungsanforderungen – werden großteils auf den Staat abgewälzt.

Carr äußert sich in diesem politisch heiklen Punkt leider nicht präzise. Er beklagt bloß den angeblichen – wie ich meine, vorübergehenden – "Degenerationseffekt" der Automatisierung: Sie lasse dem Menschen nur primitive Handreichungen übrig und erhöhe die Unzufriedenheit. In diesem Zusammenhang verdächtigt Carr die allgegenwärtigen GPS-Navigationssysteme sogar, eine gewisse Mitschuld an Altersdemenz und Alzheimer-Prävalenz zu tragen. Am Ende versteigt er sich zu recht vager Zivilisationskritik: "Wir leben in einer Zeit materiellen Komforts und technischer Wunder, aber ebenso herrschen Ziellosigkeit und Trübsinn."

Das Buch birgt eine unfreiwillige Pointe. Zwar warnt der Autor davor, uns allzu sehr auf Expertensysteme und digitale Suchmaschinen zu verlassen. Doch ohne Google oder eines seiner Konkurrenzprodukte hätte er niemals ein derart mit aktuellen Beispielen, Quellen und Zitaten angereichertes Buch zustande gebracht.

Kennen Sie schon …

Spektrum Kompakt – Quantencomputer - Der Weg in die praktische Anwendung

Im Jahr 2019 präsentierte Google den ersten Quantencomputer, der klassische Rechner übertrumpfen sollte. Mit weiteren Unternehmen wie IBM liefert sich der Konzern ein Rennen um die Frage: Wie schnell wird die Technologie die Praxis erobern?

Spektrum Kompakt – Frühe Kunst - Was Höhlenmalereien und Felszeichnungen verraten

Immer mehr frühe Kunstwerke kommen ans Licht, weltweit haben Menschen vor Jahrtausenden bereits Eindrücke ihrer realen und spirituellen Welt verewigt. Für Forschende heute sind sie ein spannendes Archiv der Vergangenheit.

Spektrum der Wissenschaft – Spezial Physik - Mathematik - Technik 3/2021: Algorithmen für die Zukunft

Algorithmen für die Zukunft - Beweisführung: Mathematiker aus Silizium • Arzneimittel: Automatisiert zu neuen Medikamenten • Neuronale Netze: Der gesunde Maschinenverstand

Lesermeinung

Beitrag schreiben

Wir freuen uns über Ihre Beiträge zu unseren Artikeln und wünschen Ihnen viel Spaß beim Gedankenaustausch auf unseren Seiten! Bitte beachten Sie dabei unsere Kommentarrichtlinien.

Tragen Sie bitte nur Relevantes zum Thema des jeweiligen Artikels vor, und wahren Sie einen respektvollen Umgangston. Die Redaktion behält sich vor, Leserzuschriften nicht zu veröffentlichen und Ihre Kommentare redaktionell zu bearbeiten. Die Leserzuschriften können daher leider nicht immer sofort veröffentlicht werden. Bitte geben Sie einen Namen an und Ihren Zuschriften stets eine aussagekräftige Überschrift, damit bei Onlinediskussionen andere Teilnehmer sich leichter auf Ihre Beiträge beziehen können. Ausgewählte Lesermeinungen können ohne separate Rücksprache auch in unseren gedruckten und digitalen Magazinen veröffentlicht werden. Vielen Dank!

Partnerinhalte