Entwicklungen im Bereich von künstlicher Intelligenz und synthetischer Biologie sind Teil einer kommenden Welle neuer Technologien, die das Potenzial haben, unsere Gesellschaft rasant, gravierend und unwiderruflich zu transformieren. Schaffen wir es, diese nie dagewesenen Möglichkeiten zum Wohle der Menschheit nutzbar zu machen? Oder unterschätzen wir ihr Risikopotenzial und steuern auf einen technologischen Albtraum zu?

Der Autor Mustafa Suleyman hat sich aus sogenannten einfachen Verhältnissen hochgearbeitet, hatte führende Positionen bei Google inne und war Mitgründer des auf künstliche Intelligenz spezialisierten Unternehmens »DeepMind«. Seit März 2024 ist er Leiter der beim Technologiegiganten neu geschaffenen Einheit »Microsoft AI«. Schon früh engagierte er sich politisch für Menschenrechte – auf regionaler und nationaler Ebene, aber auch bei der UNO und dem WWF. Er ist ein Wunderkind der heutigen Zeit und großer Nutznießer der technologischen Revolutionen. Darum ist es nicht verwunderlich, dass er ursprünglich ein optimistisches Buch über den aktuellen Fortschritt schreiben wollte. In den letzten Jahren ging der Autor jedoch in sich und kam zu dem Schluss, dass die möglichen Schattenseiten der aktuellen Entwicklungen ebenfalls benannt werden müssen. Er setzt sich in seinem Buch mit dieser Ambivalenz dialektisch argumentierend auseinander; so ist es weder eine pessimistische Abrechnung noch ein technologiegläubiges Heilsversprechen. Der Autor liefert uns eine umsichtige, realistische Einschätzung einer kommenden Welle und behauptet folgerichtig auch nicht, eine einfache Lösung für alle Probleme gefunden zu haben, die diese mit sich bringt.

Lässt sich diese Welle eindämmen?

Das zentrale Aufgabe der Zukunft wird es sein, die kommende Welle einzudämmen. Aber wie lassen sich die neuen Technologien beherrschen? Können wir sicherstellen, dass sie unserer demokratischen Gesellschaft nicht schaden, dass sie nicht als Machtmittel von autoritären Regimen oder Mega-Konzernen missbraucht werden? Diese Fragen haben sich einige Leser sicher schon gestellt. Im Buch erfahren sie aber auch, dass es heute schon für Einzelpersonen erschreckend einfach sein kann, absichtlich oder unabsichtlich riesigen Schaden anzurichten: sei es durch die Verbreitung pathogener Viren unter Menschen oder das Freisetzen von Computerviren, die ganze Infrastrukturen lahmlegen. Der Grundton des Buchs bleibt angesichts solcher Gefahren sachlich, frei von Sensationsgier. Immer wieder werden realistische Szenarien skizziert, wie moderne Technologie überproportional große Schäden anrichten kann. Sie könnten sich völlig unter dem Radar staatlicher Institutionen einstellen, da diese weder regulatorisch noch technologisch auf sie vorbereitet sind.

Worauf dürfen wir uns in Zukunft verlassen? Auf sehr wenig. So warnt Suleyman davor, dass selbst funktionierende Demokratien scheitern können. Es könnte sein, dass in absehbarer Zeit taumelnde Bürokratien, populistische Opportunisten, allmächtige Diktaturen auf staatlicher Seite mächtigen Firmen mit Tendenz zur Monopolbildung auf wirtschaftlicher Seite gegenüberstehen. Es bedarf daher der gemeinsamen Anstrengung von Wissenschaftlern, Technikern, Entscheidungsträgern in der Wirtschaft, einer kompetenten Verwaltung und einer global vernetzten Spitzenpolitik, um auch diese neuen Entwicklungen zu beherrschen. Der Autor erinnert uns auch daran, dass uns mit dieser Art der Zusammenarbeit bereits vieles gelungen sei.

Suleyman liefert am Ende des Buches realisierbare Vorschläge, die mehrere Ebenen miteinander verknüpfen. So schlägt er vor, dass, wie in der Luftfahrt- oder Nuklearindustrie bereits üblich, Sicherheitsaspekte schon im Designprozess berücksichtigt werden, risikoabhängige Audits durchgeführt werden und es Möglichkeiten zur Drosselung gibt, um Regulierungsnormen anzupassen. Er empfiehlt, dabei die Entwickler, Unternehmen und Regierungen ebenso einzubinden wie NGOs und globale Allianzen. Er ist überzeugt: Wir brauchen eine geeignete Fehlerkultur und kohärente Normen, die unterschiedliche Ebenen miteinander harmonisieren, anstatt sie gegeneinander auszuspielen. Ein ambitionierter, aber möglicher Plan. Suleyman argumentiert nüchtern analytisch, differenziert ausgewogen, technisch fundiert und trotzdem niemals langatmig. Sein Buch ist höchst relevant und ermöglicht die nötige Grundlagenarbeit zur Vorbereitung auf die Zukunft – und die kommende Welle.