Direkt zum Inhalt

Der versklavte Maschinengott

KI-Systeme werden immer leistungsfähiger. Computer spielen mittlerweile besser Schach, Poker und Go als jeder Mensch, und alle fragen sich, welche Bastion menschlichen Denkens als Nächstes fällt. Google hat kürzlich eine künstliche Intelligenz zur Bildentwicklung entwickelt, die ihrerseits eine KI erschaffen hat. Weil hoch qualifizierte Softwareentwickler auf dem Arbeitsmarkt rar sind, sollen künstliche Intelligenzen sich selbst programmieren. Welche Auswirkungen hat das auf die Arbeitswelt? Wo liegen die Grenzen der Entwicklung?

Das sind nur einige Fragen, die der Physiker Max Tegmark vom MIT in seinem neuen Buch "Leben 3.0" zu beantworten sucht. Wie der Titel schon erahnen lässt, wählt der Autor einen globalgeschichtlichen Zugang zum Thema. In der materialistischen Tradition von Ray Kurzweil unterteilt Tegmark die Evolution in drei Stufen. Die biologische Stufe (Leben 1.0) versteht er als Prozess, bei dem die Evolution Hard- und Software hervorbringt. Auf der kulturellen Stufe (Leben 2.0) evolviere die Hardware, während sich die Software selbst entwickle. Auf der technologischen Stufe (Leben 3.0) schließlich gestalteten sich Hard- und Software selbst. "Kein Lebewesen", führt Tegmark aus, "erreicht eine Lebensspanne von einer Million Jahren, niemand kann sich das Gesamtvolumen der Wikipedia merken, sämtliche bekannten Wissenschaften erlernen oder eine Reise ins Weltall ohne ein Raumschiff antreten." Um all dies zu erreichen, müsse das Leben ein "endgültiges Upgrade" vornehmen und zum Leben 3.0 aufsteigen. "Mit anderen Worten: Leben 3.0 wird sein eigenes Schicksal meistern und endlich vollständig von seinen evolutionären Fesseln befreit sein."

Vorgriff auf übermorgen

Tegmark denkt in kosmischen Dimensionen, er spannt den ganz großen Bogen. Das Buch erinnert in seiner Exegese und Kühnheit an Yuval Noah Hararis Werk "Homo Deus" (Rezension hier), von dem es offensichtlich inspiriert wurde – der israelische Universalhistoriker sprach in der "Financial Times" eine Lektüreempfehlung aus. Im Gegensatz zu Harari erzählt Tegmark aber keine Geschichte von morgen, sondern von übermorgen. Der Autor extrapoliert die aktuellen Entwicklungen künstlicher Intelligenzen in verschiedenen Gesellschaftsbereichen – etwa automatisierte Waffensysteme beim Militär oder Robo-Richter in der Justiz – auf die nächsten 10 000 Jahre und entwickelt auf dieser Grundlage Szenarien, wie sich die Menschheit in diesem Zeitraum entwickeln könnte.

Da wäre das libertäre Utopia, in dem Menschen, Cyborgs, Uploads und Superintelligenzen auf Grund von Eigentumsrechten friedlich zusammenleben. Da wäre der "wohlwollende Diktator", eine Maschine, unter der Menschen zwar keine Kontrolle mehr haben, dafür aber in Sicherheit leben. Der "versklavte Gott" schließlich, eine von Menschen eingehegte Superintelligenz, produziert unvorstellbaren Reichtum und technische Systeme, was je nach Laune der menschlichen Kontrolleure zum Guten oder Schlechten verwendet werden kann. Zu nennen ist noch das pessimistische Szenario der Selbstzerstörung, in dem eine Superintelligenz nie geschaffen wird, weil sich die Menschheit selbst auslöscht – durch nukleares oder biotechnisches Chaos.

Frei von Alarmismus

Der Autor wirft in seinen "KI-Nachwirkungsszenarien" zahlreiche technikphilosophische Fragen auf, etwa: Sollten Menschen oder Maschinen die Kontrolle haben? Sollten künstliche Intelligenzen bewusstseinsfähig sein oder nicht? Sollte der Mensch weiter existieren, ersetzt werden durch Cyborgs und/oder durch Uploads umgestaltet oder simuliert werden?

Was bei der Lektüre des Buchs positiv auffällt: Der Autor bewertet diese ethischen Fragen nicht, sondern stellt sie offen in den Raum. Sein Ton ist sachlich, nüchtern und frei von jedem Alarmismus. Anders als der häufig apodiktisch argumentierende Kurzweil stellt Tegmark seine Zukunftsszenarien nicht als Unabänderlichkeit dar, sondern als gestaltbaren Möglichkeitsraum. Im jetzigen Stadium der Entwicklung könne der Mensch die Weichen noch stellen – er müsse sich nur entscheiden. Darin kann man auch eine versteckte Kritik an den Programmierern lesen, die sich häufig hinter der analytischen Formel des "Problemlösens" verstecken, aber keine nachhaltigen Gesellschaftsmodelle entwickeln.

Die KI wird gesellschaftliche Hierarchien verändern, vielleicht sogar neu strukturieren – daran lässt Tegmark keinen Zweifel. Sein Buch ist eine luzide, wenn auch nicht immer erbauliche Vermessung. Einzig das Schlusskapitel über Bewusstseinstheorien und einige Anspielungen auf Konferenzteilnehmer, die wohl nur Insidern ein Begriff sind, wären verzichtbar gewesen. Im Übrigen ist es ein überaus gelungenes Werk, das dem Leser als Kompass durch die Irrungen und Wirrungen künstlicher Intelligenz gereicht.

Kennen Sie schon …

Januar 2018

Spektrum der Wissenschaft – Januar 2018

In dieser Ausgabe widmet sich Spektrum der Wissenschaft den neuronalen Netzwerken. Außerdem: bunte Dinosaurier, die Buchhaltung der Babylonier und die Rückkehr der Mädchen

Smartphones - Mobile Multitalente

Spektrum Kompakt – Smartphones - Mobile Multitalente

Smartphones haben unseren Alltag im vergangenen Jahrzehnt vielleicht mehr verändert, als es uns bewusst ist. Für manche sind sie inzwischen zum beinahe unverzichtbaren und vieles erleichternden Lebensbestandteil geworden. Allerdings gibt es auch Stimmen, die vor übermäßigem Gebrauch warnen.

Spezial Physik - Mathematik - Technik 1/2017

Spektrum der Wissenschaft – Spezial Physik - Mathematik - Technik 1/2017: Willkommen in der Datenwelt

Das Digital-Manifest:Experten befürchten Aushöhlung der Demokratie • Big Data: Privatsphäre muss uns etwas wert sein • Maschinen-Intelligenz: Gefahr durch autonome Roboter

Lesermeinung

Beitrag schreiben

Wir freuen uns über Ihre Beiträge zu unseren Artikeln und wünschen Ihnen viel Spaß beim Gedankenaustausch auf unseren Seiten! Bitte beachten Sie dabei unsere Kommentarrichtlinien.

Tragen Sie bitte nur Relevantes zum Thema des jeweiligen Artikels vor, und wahren Sie einen respektvollen Umgangston. Die Redaktion behält sich vor, Leserzuschriften nicht zu veröffentlichen und Ihre Kommentare redaktionell zu bearbeiten. Die Leserzuschriften können daher leider nicht immer sofort veröffentlicht werden. Bitte geben Sie einen Namen an und Ihren Zuschriften stets eine aussagekräftige Überschrift, damit bei Onlinediskussionen andere Teilnehmer sich leichter auf Ihre Beiträge beziehen können. Vielen Dank!

Partnervideos