In den letzten Monaten hat das Sprachmodell ChatGPT weltweit für Schlagzeilen gesorgt. Der im November 2022 veröffentlichte Chatbot von OpenAI kann menschliche Sprache so überzeugend verarbeiten, dass er ähnlich kreativ und intelligent wie ein Mensch wirkt: Er gibt detaillierte Antworten auf schriftliche Fragen und kann Gedichte oder Lieder verfassen. Allerdings sind solche Programme nicht vertrauenswürdig. Sie treffen manchmal unlogische Aussagen oder geben selbstsicher Unwahrheiten als Tatsachen aus. »Sie sprechen von Einhörnern, vergessen dann aber, dass die Fabelwesen nur ein Horn besitzen«, sagt der Mathematiker und KI-Experte Jason Rute von IBM Research.

Dahinter steckt mehr als nur ein Programmierfehler. Sprachmodelle können ihre Fehler nur schwer erkennen, was ihre Leistung einschränkt. Aber nicht jede künstliche Intelligenz (KI) leidet unter dieser Schwäche …