In Douglas Adams‘ Sciencefiction-Klassiker »Per Anhalter durch die Galaxis« spuckt der Supercomputer »Deep Thought« auf die »endgültige Frage nach dem Leben, dem Universum und dem ganzen Rest« die Antwort »42« aus. Diese Antwort, deren Berechnung 7,5 Millionen Jahre dauerte, lässt die Forscher verständlicherweise ratlos zurück. Als sie vom Computer wissen wollen, was eigentlich die genaue Frage war, kann dieser sie nicht reproduzieren, bietet allerdings an, dabei zu helfen, einen noch stärkeren Computer zu bauen, der in nur zehn Millionen Jahren die Antwort darauf hätte.

Das Problem der Forscher in dieser satirischen Szene war, dass die künstliche Intelligenz des Computers eine Art Blackbox darstellte, bei der kaum nachzuvollziehen war, wie er auf die Antwort kam. Was in diesem fiktionalen Beispiel zum Schmunzeln anregt, kann in der Realität, in der sogenannte künstliche Intelligenzen schon heute viele Entscheidungen treffen, zu ernsten Problemen führen. So kann es passieren, dass jemand einen Kredit nicht bewilligt bekommt, weil eine KI aufgrund eingegebener Daten und deren Auswertung entschieden hat, dass diese Person nicht kreditwürdig ist. Tragisch werden solche undurchsichtigen und in Teilen nicht mehr nachvollziehbaren Entscheidungsprozesse dann, wenn etwa ein selbstfahrendes Fahrzeug einen Unfall mit Todesfolge verursacht. Katharina Zweig, die als Universitätsprofessorin am Fachbereich Informatik der Technischen Universität Kaiserslautern das »Algorithm Accountability Lab« leitet, legt nun mit »Die KI war’s!« ein Buch vor, in dem genau solche Entscheidungsfindungen genauer betrachtet werden.

Wie kommt eine künstliche Intelligenz zu ihren Entscheidungen?

Im Mittelpunkt steht die zentrale Frage, ob es möglich ist, die Entscheidungen von Maschinen zu hinterfragen, und welche Antworten hierbei zu erwarten sind. Nach einer Einleitung geht die Autorin dieser Frage in vier Abschnitten nach. Im ersten Teil des Buches widmet sie sich einigen Beispielen für Fehlentscheidungen und liefert grundlegende Informationen zur Funktionsweise von KI-Systemen. Ein »Informatik-ABC« gibt auch Lesern ohne Vorwissen die Chance, sich mit den komplexen informationstechnologischen Systemen und ihren Problemen auseinanderzusetzen. Der zweite Teil dreht sich vorrangig um die Frage, wie es zu Fehlentscheidungen kommen kann, und unterscheidet zwischen vorhersehbaren Fehlentscheidungen und sogenannten Blackbox-Systemen, bei denen der Vorgang undurchsichtig bleibt. Im Anschluss werden im dritten Abschnitt Entscheidungen betrachtet, die (zunächst) gar nicht als Fehlentscheidungen wahrgenommen werden. Besonders interessant ist das letzte Kapitel, das einen Ausblick auf die Zukunft der KI-gestützten Entscheidungsfindung gibt und Chancen wie Gefahren benennt. Außerdem gibt die Autorin Empfehlungen, wie auf den verschiedenen Ebenen – politisch, wissenschaftlich und persönlich – in Zukunft mit der künstlichen Intelligenz umgegangen werden könnte. Besonders der Spagat zwischen gesetzlichen Begrenzungen und der Förderung der künstlichen Intelligenz, auch vor dem Hintergrund wirtschaftlicher Anwendungen, wird thematisiert.

Die besondere Stärke des Werks liegt in der Aufarbeitung von Erkenntnissen, die zwar bereits seit Längerem bekannt sind, bisher aber noch wenig diskutiert werden. Beispielhaft hierfür steht die Tatsache, dass die künstliche Intelligenz zwar aus Algorithmen besteht, in ihrer Konzeption aber den subjektiven weltanschaulichen Gedankenmodellen ihrer Schöpfer unterworfen ist und deshalb durchaus etwa rassistisch oder sexistisch sein kann.

Hintergrundwissen ist für die Lektüre von »Die KI war’s!« nicht unbedingt nötig, ist aber, gerade wenn es um die komplexeren Funktionsweisen der Systeme geht, hilfreich. Eine ganze Reihe Schemata, (Merk-)Kästen und Zusammenfassungen sowie viele Beispiele vereinfachen das Verständnis allerdings sehr. Der Stil ist nüchtern, aber nicht zu akademisch und durch ein Augenzwinkern hier und da aufgelockert.

Katharina Zweig vermittelt in »Die KI war’s!« nicht nur Wissen, sondern zeigt auch, wie wichtig es ist, kritisch zu hinterfragen und Verantwortung zu übernehmen. Sie macht erfahrbar, dass das Thema die Gesellschaft als Ganzes betrifft, und ermutigt dazu, die Zukunft der künstlichen Intelligenz aktiv mitzugestalten.