OpenAI stärkt nach KI-Hacks Schutzvorkehrungen bei Tests

Künstliche Intelligenz: OpenAI stärkt nach KI-Hacks Schutzvorkehrungen bei Tests

Der ungeplante Hackerangriff eines KI-Modells von OpenAI auf Computer einer anderen KI-Firma ließ Alarmglocken läuten. Neue Maßnahmen sollen dafür sorgen, dass so etwas nicht wieder passiert.

Eine digitale Darstellung eines Bildschirmfotos mit mehreren überlappenden Fenstern, die Programmiercode in einer futuristischen, neonbeleuchteten Umgebung zeigen. Die Fenster enthalten Codezeilen in verschiedenen Programmiersprachen, die auf einem komplexen, mehrschichtigen Hintergrund schweben. Die Farben sind überwiegend Blau- und Rottöne, die eine technologische und dynamische Atmosphäre erzeugen. — © fotograzia / Getty Images / Moment (Ausschnitt)
Die automatisierten Überwachungssysteme von Open AI sollen künftig unter anderem nach Versuchen von Datendiebstahl Ausschau halten sowie nach Anläufen, Sicherheitsvorkehrungen zu durchbrechen.

Der ChatGPT-Entwickler OpenAI verschärft nach aufsehenerregenden Hacks durch KI-Software die Sicherheitsvorkehrungen bei Testeinsätzen seiner künstlichen Intelligenz. Unter anderem sollen automatisierte Systeme die Aktivitäten der KI-Modelle in den Versuchen strikter überwachen – und bei verdächtigen Handlungen binnen 30 Minuten Menschen benachrichtigen. Wenn diese nicht sofort zu dem Schluss kommen, dass ein falscher Alarm vorliegt, werde die Aktivität gestoppt, erläuterte OpenAI in einem Blogeintrag.

OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein KI-Modell in einem Test einen Weg gefunden hatte, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen – um dann ins Computersystem der KI-Plattform Hugging Face einzubrechen. Nach allem, was bekannt ist, suchte es dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Dabei nutzte die KI von OpenAI anscheinend eine ganze Reihe von Schwachstellen aus, die zum Teil noch unbekannt waren.

Alarmierend war vor allem, dass die künstliche Intelligenz dabei völlig eigenständig agierte – und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eingedrungen waren.

Großer Aufwand

Die Überwachung der Tests ist für OpenAI mit erheblichem Rechenaufwand und entsprechend mit hohen Kosten verbunden. Die Firma schätzt, dass dafür noch einmal etwa ein Fünftel so viel Computerleistung notwendig sein wird wie für den Betrieb der beobachteten KI-Modelle.

Die automatisierten Überwachungssysteme sollen künftig unter anderem nach Versuchen von Datendiebstahl Ausschau halten sowie nach Anläufen, Sicherheitsvorkehrungen zu durchbrechen. Außerdem sollen die KI-Modelle stärker darauf ausgerichtet werden, nicht zu unlauteren Mitteln wie der Ausnutzung von Schwachstellen zu greifen, um Testaufgaben zu erfüllen. Einige Tests neuer Modelle wurden ausgesetzt, bis die neuen Maßnahmen durchgängig umgesetzt werden.

OpenAI-Topmanager Greg Brockman betonte zugleich, die Fähigkeiten neuer KI-Modelle, Schwachstellen aufzuspüren, seien ein großer Gewinn für die Abwehr von Cyberattacken. Damit könne man das Internet sicherer denn je machen, schreibt er auf seinem Blog. Doch es bleibe ein »Katz-und-Maus-Spiel«: Auch Angreifer könnten mithilfe von KI bisher schlummernde Sicherheitslücken finden. Auf seiner privaten Website habe ein öffentlich zugängliches ChatGPT-Modell 13 Schwachstellen gefunden – und diese binnen einer Stunde schließen können, schreibt Brockman. (dpa/kmh)