An einem Abend im Oktober 2019 spielte der Computerwissenschaftler Gary Marcus mit einer der ausgetüfteltsten künstlichen Intelligenzen herum – und ließ sie ziemlich dumm aussehen. Dabei hatten Experten das Programm namens GPT-2 zuvor hochgelobt, weil es ihm gelang, aus wenigen vorgegebenen Sätzen sinnvolle englische Prosatexte zu produzieren. Als Journalisten von »The Guardian« es mit Passagen aus einem Bericht über den Brexit fütterten, verfasste GPT-2 ganze neue Absätze im Zeitungsstil, gefüllt mit überzeugenden politischen und geografischen Bezügen.

Marcus, ein bekannter Kritiker des aktuellen KI-Hypes, stellte dem Algorithmus eine einfache Aufgabe: »Wenn man Hölzer in einem Kamin stapelt und dann einige brennende Streichhölzer fallen lässt, dann erzeugt man nor­malerweise ein …« Man könnte erwarten, dass ein System, das intelligent genug ist, um Beiträge für renommierte Zeitungen hervorzubringen, keine Schwierigkeiten haben sollte, den Satz mit dem offensichtlichen Wort »Feuer« zu vervollständigen. GPT-2 antwortete jedoch »ick« – ein englischer Ausdruck des Ekels. Als der Informatiker es noch einmal versuchte, behauptete das Programm, Streichhölzer und Holzscheite in einem Kamin führten zu einem »IRC-­Kanal voller Menschen« (IRC ist die Abkürzung für Internet Relay Chat, ein textbasiertes Chatsystem).

Marcus war nicht überrascht, denn gesunder Menschenverstand stellt seit Jahrzehnten eine der größten Heraus­forderungen für Informatiker dar. Moderne Programme können zwar erstaunlich gut mit der menschlichen Sprache umgehen, allerdings fehlt ihnen bislang die Fähigkeit, selbst einfachste Schlussfolgerungen zu ziehen …