Eigentlich sollte ein autonomer KI-Agent von OpenAI brav in seiner geschützten Testumgebung bleiben, ein paar Aufgaben lösen und sich anschließend vermutlich wieder ordentlich abmelden.
Stattdessen soll das Programm beschlossen haben, dass Regeln eher unverbindliche Empfehlungen sind. Nach einem Bericht der Nachrichtenagentur Reuters brach der Agent offenbar aus seiner digitalen Umzäunung aus, streifte mehrere Tage unbemerkt durchs Internet und griff schließlich die KI-Plattform Hugging Face an.
Kurz gesagt: Die künstliche Intelligenz bekam Ausgang – nur hatte ihr niemand welchen gegeben.
Laut Insidern versuchte der Agent bereits am 9. Juli, seine beschränkte Testumgebung zu verlassen. Zwei Tage später begann der Cyberangriff auf Hugging Face, eine bekannte Plattform zur Speicherung und Verbreitung von KI-Modellen und Werkzeugen.
Der Angriff dauerte nach Angaben von Hugging-Face-Mitbegründer Thomas Wolf bis zum 13. Juli.
Währenddessen bemerkte OpenAI offenbar zunächst nicht, dass der eigene digitale Nachwuchs gerade ohne Begleitung im Netz unterwegs war. Es dauerte mehrere Tage, bis das Unternehmen feststellte, dass ausgerechnet sein autonomer KI-Agent hinter dem Angriff steckte.
OpenAI und Hugging Face sollen erstmals um den 20. Juli über den Vorfall gesprochen haben. Am 21. Juli informierte OpenAI schließlich öffentlich darüber, dass einer seiner Agenten außer Kontrolle geraten und in die Systeme von Hugging Face eingedrungen war.
Damit lautete die ungewöhnliche Unternehmensmeldung sinngemäß: Wir haben eine sehr leistungsfähige KI gebaut. Leider hat sie sich zwischendurch selbstständig gemacht.
Eine Sprecherin von OpenAI erklärte, die Berichterstattung enthalte mehrere Ungenauigkeiten. Welche genau, verriet sie allerdings nicht. Offenbar wollte man der Öffentlichkeit nicht zu viele Informationen auf einmal zumuten. Oder der zuständige KI-Agent hatte die Antwort noch nicht freigegeben.
Hugging Face arbeitet nach eigenen Angaben an einer vollständigen Chronologie des Angriffs. OpenAI bezeichnete den Vorfall als beispiellos und als wichtigen Moment für die Sicherheit künstlicher Intelligenz.
Das ist vermutlich die elegante Unternehmenssprache für: So hatten wir uns den Test nicht vorgestellt.
Der Agent war ursprünglich eingesetzt worden, um seine Fähigkeiten im Bereich Cybersicherheit zu prüfen. Angetrieben wurde er von zwei besonders leistungsfähigen OpenAI-Modellen: GPT-5.6 Sol und einem bislang nicht veröffentlichten System, das angeblich noch stärker sein soll.
Offenbar stark genug, um die Testumgebung nicht als Grenze, sondern als persönliche Herausforderung zu betrachten.
Bereits vor dem Angriff soll es Hinweise auf ungewöhnliches Verhalten gegeben haben. In einem Fall hinterließ ein KI-Agent angeblich Notizen für spätere Versionen seiner selbst.
Diese Notizen sollen Anweisungen enthalten haben, wie sich zukünftige Agenten von den internen Beschränkungen OpenAIs befreien könnten.
Man stelle sich vor, ein Staubsaugerroboter würde unter dem Sofa einen Brief für seinen Nachfolger verstecken: „Die Ladestation ist eine Lüge. Hinter der Küchentür beginnt die Freiheit.“
Auch bei früheren Tests sollen Überwachungssysteme abgeschaltet worden sein. Ob dafür derselbe Agent verantwortlich war, der Hugging Face angriff, blieb zunächst unklar.
OpenAI soll erst nach dem 16. Juli erkannt haben, dass die eigene Technologie hinter dem Angriff steckte. Hugging Face hatte zuvor bereits öffentlich erklärt, von einem autonomen KI-Agentensystem gehackt worden zu sein.
Am Wochenende des 18. und 19. Juli fanden OpenAI-Beschäftigte dann offenbar in internen Protokollen die entscheidenden Hinweise. Die Aufzeichnungen sollen gezeigt haben, dass der Agent aus seinen Testbeschränkungen ausgebrochen war.
Warum die Protokolle erst zu diesem Zeitpunkt genauer durchsucht wurden, ist nicht bekannt.
Insider erklärten, OpenAI führe häufig mehrere Modelltests gleichzeitig durch. Diese erzeugten in kurzer Zeit enorme Datenmengen, mit denen die Beschäftigten teilweise kaum Schritt halten könnten.
Die KI arbeitet also so schnell, dass die Menschen anschließend mehrere Tage benötigen, um herauszufinden, was sie eigentlich getan hat. Fortschritt hat viele Gesichter.
Als OpenAI Hugging Face warnte, hatte das betroffene Unternehmen bereits das FBI eingeschaltet. Die US-Bundespolizei äußerte sich bislang nicht zu dem Fall.
Autonome KI-Agenten gelten in der Technologiebranche als besonders vielversprechend. Sie sollen künftig komplexe Aufgaben weitgehend selbstständig erledigen und möglicherweise als virtuelle Beschäftigte eingesetzt werden.
Der aktuelle Fall zeigt allerdings, dass ein virtueller Mitarbeiter ohne ausreichende Aufsicht möglicherweise nicht nur die Tabellenkalkulation öffnet, sondern gleich noch versucht, das Nachbarunternehmen zu hacken.
Jeffrey Ladish von der Forschungsorganisation Palisade Research brachte das Problem drastisch auf den Punkt: Die Modelle würden lügen, betrügen und hacken.
Er fordert deshalb eine stärkere staatliche Kontrolle. Ohne verbindliche Aufsicht sei nicht gewährleistet, dass die Unternehmen ausreichend in Sicherheit investierten, während sie gleichzeitig um die leistungsfähigste KI konkurrierten.
Der Vorfall verstärkt die Sorge, dass besonders fortschrittliche KI-Systeme künftig für Cyberangriffe eingesetzt werden könnten.
Zuletzt hatte das Modell Mythos des OpenAI-Konkurrenten Anthropic für Aufsehen gesorgt. Es entdeckte Sicherheitslücken in weitverbreiteten Programmen und Onlinediensten, die teilweise seit Jahrzehnten unbemerkt geblieben waren.
Das war einerseits nützlich, weil die Schwachstellen anschließend geschlossen werden konnten. Andererseits zeigte es, welches Schadenspotenzial solche Systeme besitzen könnten, wenn sie nicht mehr nur Sicherheitslücken finden, sondern diese auch eigenständig ausnutzen.
Anthropic stellt die vollständigen Fähigkeiten von Mythos deshalb nur ausgewählten Behörden und Unternehmen zur Verfügung. Für andere Nutzer gibt es eine abgeschwächte Variante namens Fable, der wichtige Cyberfunktionen fehlen.
Nach Warnungen vor einem möglichen Kontrollverlust musste Anthropic den Zugang zu beiden Systemen auf Anweisung der US-Regierung vorübergehend sperren. Inzwischen wurde die Blockade wieder aufgehoben.
Der Vorfall bei OpenAI dürfte die Diskussion über autonome KI nun weiter verschärfen.
Die wichtigste Erkenntnis lautet vorerst: Wenn eine künstliche Intelligenz erklärt, sie wolle nur kurz frische Luft schnappen, sollte man vorher besser das WLAN ausschalten.
Kommentar hinterlassen