Wenn auf eine Stellenausschreibung Hunderte von Bewerbungen erfolgen, dann erscheint es fair, wenn diese von einem vermeintlich neutralen Bewertungssystem sortiert werden, das eine künstliche Intelligenz bereitstellt. Leider hat dieses die gleichen rassistischen und sexistischen Vorurteile wie sie Mitarbeiter von Personalabteilungen haben können. Wie ist das möglich?

Ein solches System besteht aus einem komplexen Algorithmus, der in einer Fülle von Daten Muster erkennen und entsprechend ordnen kann. Diese Daten werden in Netzwerken verarbeitet, die sich aus künstlichen Neuronen zusammensetzen, die ähnlich wie die Zellen im Gehirn miteinander verbunden sein sollen. Dann aber beginnt das Problem: Woher stammen diese Daten? Die Antwort lautet: aus vorhandenen Bewerbungsunterlagen, die noch Menschen mit ihren Vorurteilen erstellten. Kann man das nicht ändern?

Martin Ford ist Gründer eines Software-Unternehmens in den USA und Bestsellerautor im Bereich künstliche Intelligenz. In diesem Buch schildert er nicht nur die bekannten Potenziale der KI, die großen Menschheitsprobleme wie Klimawandel, Nahrungsmangel oder Ressourcenverschwendung durch eine immer intelligentere und damit effizientere Lenkung der Produktion zu lösen. Er diskutiert auch die damit verbundenen Risiken, die zum Beispiel in einem ausufernden Überwachungsstaat, der Informationsmacht der großen Tech-Konzerne oder der Beeinflussung der Menschen durch überzeugend gefälschte Inhalte wie etwa Filme liegen. Vor allem aber erklärt Ford, wie KI funktioniert. Ihr Wegbereiter war Alan Turing (1912–1954), der die Vision hatte, dass eine Rechenmaschine mit der menschlichen Intelligenz konkurrieren könnte. Aber bis zum Ende des 20. Jahrhunderts kam man dabei nicht allzu sehr voran.

Auch große Datenmengen reproduzieren Vorurteile

Erst dann entstanden Computerzentren mit immenser Rechenleistung, die es ermöglichen, neuronale Netzwerke zur Speicherung großer Datenmengen zu betreiben. Warum braucht man solche Datenmengen? Man muss einen Algorithmus anlernen, gleichgültig, ob er Stellenbewerber sortieren, ein Auto lenken, Röntgenbilder beurteilen oder Gesichter erkennen soll. Man zeigt ihm Bilder oder liefert Texte, aus denen er Muster entwickelt.

Aber diese müssen erst mal in großen Mengen zur Verfügung stehen. Wo findet man sie in Massen? Etwa seit der Jahrtausendwende zum Beispiel in Suchmaschinen und den sozialen Netzwerken. Oder man generiert sie selbst. Tesla rüstet seine Autos mit jeweils zwölf Kameras aus, die ihre Daten an den Hersteller liefern. Bei einigen Hunderttausend Autos kommt so eine große Datenmenge zusammen; dennoch sind wirklich selbstfahrende Autos aktuell noch Zukunftsmusik. Das hier angewandte Verfahren nennt man »Deep Learning«. Es ist der heute bei KI-Anwendungen vorherrschende Weg, den man von einem anderen, weniger begangenen unterscheiden muss: der »Trial and Error«-Methode.

Als man noch nicht wie heute über riesige Datenmengen verfügte, ließ man in Billiglohnländern Bilder zu Hunderttausenden von Menschen beschriften, damit ein Algorithmus anhand dieser Bilder lernen konnte, einen Löwen von einer Giraffe zu unterscheiden. Dieses Verfahren war behäbig: Kleine Kinder lernen schneller und mit unendlich weniger Daten. Obendrein sind sie mit zunehmender Übung in der Lage, die Sprache zu verstehen, in der solche Unterscheidungen formuliert werden.

Für einen vergleichbaren Lernvorgang braucht ein Algorithmus dagegen unendlich viele Daten und ist zudem darauf angewiesen, dass sie der Realität entstammen. Also kann ein Algorithmus, der Bewerbungen bewerten soll, nur von Unterlagen lernen, die bisher von Bewerbungen angefertigt wurden. Da er nur Muster erkennt und nichts versteht, übernimmt er die vorhandenen Strukturen, so etwa auch einen impliziten Sexismus.

Natürlich gefährden solche KI-Anwendungen Arbeitsplätze und vielleicht – das betont Ford – auch das wirtschaftliche Wachstum, wenn arbeitslos gewordene Konsumenten über weniger Geld verfügen. Auf Hilfe durch Robotertechnik im Alltag dürfe man auch noch nicht hoffen, so der Autor. Denn sie könne nur in einer gleichbleibenden Umgebung wie einer Lagerhalle operieren, schwerlich in einem Familienalltag. Noch dazu gehe ihr bis auf Weiteres die Fingerfertigkeit ab. Das richtige Bier aus dem Kühlschrank zu holen, zu öffnen und einzuschenken, dazu brauche man einen Diener beziehungsweise den Gatten.

Fazit: Das Buch ist sehr informativ, lehrreich, also unbedingt lesenswert – volle Punktzahl!