Während Futuristen wie Ray Kurzweil – Erfinder und technischer Direktor bei Google – es kaum erwarten können, dass technische Denkmaschinen die Stufe des menschlichen Bewusstseins erklimmen, warnen andere Autoren vor den Risiken, die mit der Automatisierung von Entscheidungsprozessen einhergehen. Der Publizist Nicholas Carr gehört zur zweiten Sorte. Sein Buch zitiert eine Fülle negativer Auswirkungen der computergestützten Automatisierung.

Anfang 2013 gab die US-Luftfahrtbehörde einen Sicherheitshinweis heraus: Flugkapitäne sollten wann immer möglich manuell fliegen, statt sich auf den Autopiloten zu verlassen. Der Anlass dieser Verlautbarung waren Unfälle auf Langstreckenflügen, bei denen verwirrende Alarmmeldungen untätige Piloten aus dem Halbschlaf gerissen hatten, worauf diese das bereits allzu langsame Flugzeug hochzogen, statt Gas zu geben, und es dadurch erst recht zum Absturz brachten.

Elektronischer Kurpfuscher

Andere Beispiele entnimmt der Autor dem Gesundheitswesen. Hier geschieht es immer öfter, dass automatische Expertensysteme aus gespeicherten Patientendaten Diagnosen erstellen und gleich noch die passende Therapie vorschlagen. Das kann bei ungewöhnlichen Symptomkombinationen, wie sie etwa die TV-Serie "Dr. House" mit Vorliebe präsentiert, zu krassen Fehlbehandlungen führen. Ein erfahrener Arzt ist eben nicht so einfach durch Computer zu ersetzen, meint Carr.

Das Argument überzeugt mich allerdings nicht. Ein intelligentes Expertensystem vermag im Prinzip wie ein Mensch aus Erfahrung zu lernen. Wenn es die seltene Krankheit einmal eingespeist hat, wird es sie beim nächsten Mal richtig diagnostizieren. Ein Computer, der so erfahren agiert wie der fiktive Dr. House, ist kein Ding der Unmöglichkeit. Das Gleiche gilt übrigens auch beim Fliegen: Der Autopilot könnte einen aufschlussreicheren Alarm auslösen – "wir sind nicht zu tief, sondern zu langsam!" – und zudem von sich aus richtig reagieren und Gas geben.

Viel überzeugender sind Carrs ökonomische Einwände gegen ein automatisiertes Gesundheitswesen: Es kostet nicht nur in der Anschaffung, sondern auch im Betrieb überraschend viel. Insbesondere verführt der Datenhunger der Expertensysteme die Ärzte dazu, kostspielige Tests wesentlich öfter als früher durchzuführen. Durch Automatisierung wird das Gesundheitswesen unterm Strich also nicht billiger, sondern teurer. Ähnliche Folgen könnte übrigens auch die weitere Modernisierung des Flugverkehrs nach sich ziehen. Generell ist unter Ökonomen umstritten, ob die computergestützte Automatisierung die Produktivität der Volkswirtschaft insgesamt erhöht; manche Studien besagen das Gegenteil.

Vage Zivilisationskritik

Das ändert nichts daran, dass die Technisierung weiter fortschreiten wird, denn wer auf diesen Zug nicht aufspringt, bleibt im Konkurrenzkampf zurück. Die gesellschaftlichen Kosten der Modernisierung – Vernichtung von Arbeitsplätzen, Gesundheitsprobleme, Bildungsanforderungen – werden großteils auf den Staat abgewälzt.

Carr äußert sich in diesem politisch heiklen Punkt leider nicht präzise. Er beklagt bloß den angeblichen – wie ich meine, vorübergehenden – "Degenerationseffekt" der Automatisierung: Sie lasse dem Menschen nur primitive Handreichungen übrig und erhöhe die Unzufriedenheit. In diesem Zusammenhang verdächtigt Carr die allgegenwärtigen GPS-Navigationssysteme sogar, eine gewisse Mitschuld an Altersdemenz und Alzheimer-Prävalenz zu tragen. Am Ende versteigt er sich zu recht vager Zivilisationskritik: "Wir leben in einer Zeit materiellen Komforts und technischer Wunder, aber ebenso herrschen Ziellosigkeit und Trübsinn."

Das Buch birgt eine unfreiwillige Pointe. Zwar warnt der Autor davor, uns allzu sehr auf Expertensysteme und digitale Suchmaschinen zu verlassen. Doch ohne Google oder eines seiner Konkurrenzprodukte hätte er niemals ein derart mit aktuellen Beispielen, Quellen und Zitaten angereichertes Buch zustande gebracht.