An der Schnittstelle von Mensch und Maschine bewegt sich der von Katharina Zweig mitentwickelte Studiengang Sozioinformatik. Im Gegensatz zur klassischen Informatik, die sich rein auf die Erfüllung von Systemanforderungen konzentriert, geht es in der Sozioinformatik um das Zusammenspiel von Software und Nutzerinnen und Nutzern. Katharina Zweig untersucht, wie Algorithmen zum Beispiel in Justiz, Personalwesen und Social Media eingesetzt werden, welche Fehler oder Verzerrungen dabei entstehen können und wie diese Systeme transparenter und gerechter gestaltet werden können.

»Man denkt, Algorithmen sind objektiv. Aber in dem Moment, wo ein Mensch entscheidet, welche Methode man auf welche Daten schmeißt, wird es ein bisschen schwierig, diese Zahlen als objektiv zu interpretieren.«Katharina Zweig, Professorin für Informatik an der RPTU Kaiserslautern-Landau

Wenn von künstlicher Intelligenz die Rede ist, denken viele zunächst an Large Language Models (LLMs) wie ChatGPT. KI-Systeme begleiten unsere Gesellschaft aber schon deutlich länger: Beispiele reichen von Übersetzungssoftware über Suchmaschinen bis hin zu Notbremsassistenten. Katharina Zweig sieht in der künstlichen Intelligenz ein weites Forschungsfeld, das seit den 1950er-Jahren existiert. Maschinelles Lernen sei dabei heute der wichtigste Teil, bei dem der Computer Regeln statistisch aus Daten ableitet, anstatt sie von Menschen vorgegeben zu bekommen.

Was Sprachmodelle schon können

Statt künstliche Intelligenz zu verteufeln, solle man sie als Werkzeug sehen, um den eigenen Textstil zu verbessern, kritische Fragen zu stellen und Denkprozesse zu initiieren, betont Zweig. Dennoch sieht sie große Gefahren, insbesondere im Bereich der mentalen Gesundheit: Es gibt Beispiele von Menschen, die sich an Chatbots gewendet haben und im Laufe eines länger andauernden Textaustauschs in Wahnvorstellungen abgeglitten sind, oder die sich mit psychischen Problemen einem KI-Sprachmodell anvertraut und zum Teil gefährliche Ratschläge bekommen haben. Einsamkeit spiele dabei eine große Rolle, wenn Menschen die Reaktionen von Chatbots mit echter Anteilnahme und Empathie verwechseln.

»Die LLMs müssen uns gar nicht manipulieren. Wir Menschen sind so schnell übertaktbar, wenn es darum geht, endlich sozialen Anschluss zu haben.«Katharina Zweig

Wird KI den Menschen überflügeln? Darum geht es in der ersten Live-Folge von »Die großen Fragen der Wissenschaft«. Katharina Menne und Carsten Könneker von Spektrum der Wissenschaft sprechen mit Sozioinformatikerin Prof. Dr. Katharina Zweig über die Entwicklung von Large Language Models, die Gefahren von KI, aber auch darüber, wie wir die Technik effizient nutzen können.

LINKS:

Hier geht’s zum Spektrum-Artikel »Die Mathematik der Fairness«

Hier gehts zum Spektrum-Artikel: »Digitalmanifest«