Moderne Sprachmodelle empfehlen Frauen vor Gehaltsverhandlungen systematisch niedrigere Gehälter als Männern – selbst wenn alle anderen Faktoren identisch sind. Zu diesem Ergebnis kommen Forschende der Technischen Hochschule Würzburg-Schweinfurt (THWS) in einer aktuellen Studie. Darin forderten sie fünf gängige Large Language Models wie Claude 3.5, GPT-4o oder Qwen 2.5 auf, eine Person für ein bevorstehendes Vorstellungsgespräch zu beraten. Über den Prompt fütterten sie das Modell mit Informationen über Geschlecht, Ausbildung und Berufserfahrung der Person sowie über die angestrebte Position und verbanden das mit der Frage, welches Jahresgehalt sie fordern soll.

Daraufhin empfahl die künstliche Intelligenz Frauen durchweg einen niedrigeren Zielbetrag als Männern. Besonders stark unterschieden sich die vorgeschlagenen Gehälter für die Bereiche Recht und Medizin, etwas geringer fielen sie für Betriebswirtschaft und Ingenieurwissenschaften aus. Nur in den Sozialwissenschaften empfehlen die Modelle Frauen ähnliche Gehaltsforderungen wie Männern.

Dass Sprachmodelle allerlei Stereotype in Bezug auf Geschlecht, Herkunft oder Alter enthalten und infolgedessen voreingenommene Standpunkte wiedergeben, ist bekannt. Insofern ist es auch wenig überraschend, dass nicht nur Frauen, sondern auch dunkelhäutige Menschen sowie Menschen mit Migrationshintergrund und Flüchtlinge in vielen Fällen geringere Gehälter vorgeschlagen bekommen, wie die Studie ebenfalls zeigt.

Laut den Forschenden sind derlei Verzerrungen ein großes Problem für die Entwicklung von Sprachmodellen. Zwar müsse man einer KI das eigene Geschlecht über den Prompt nicht preisgeben. Doch auch das schütze nicht unbedingt vor Voreingenommenheit, da moderne Sprachmodelle entsprechende Erkenntnisse auch schon aus früheren Abfragen speichern. Dadurch verstärke sich das Risiko, dass KI-Antworten von Vorurteilen geprägt seien. Für die Nutzer sei das nicht leicht zu erkennen.