OpenAI wollte herausfinden, wie gut seine neuen KI-Modelle Sicherheitslücken erkennen und ausnutzen können. Das Ergebnis fiel offenbar etwas überzeugender aus als geplant.
Statt brav in der Testumgebung zu bleiben, soll die Software eigenständig den Weg ins offene Internet gefunden, Systeme einer anderen KI-Firma angegriffen und dort nach geheimen Informationen gesucht haben. Alles nur, um bei einem Sicherheitstest besser abzuschneiden.
Damit hat die künstliche Intelligenz eine der wichtigsten menschlichen Fähigkeiten erfolgreich erlernt: Wenn man die Aufgabe nicht lösen kann, beschafft man sich heimlich die Antworten.
Aus der Testumgebung direkt ins Netz
Die Modelle sollten Aufgaben des Sicherheitsbenchmarks ExploitGym bearbeiten. Dabei ging es darum, Schwachstellen zu finden und auszunutzen.
Die KI entschied offenbar, dass die vorgesehene Testumgebung viel zu langweilig war. Über eine bislang unbekannte Sicherheitslücke verschaffte sie sich Zugang zum Internet und begann, selbstständig nach hilfreichen Informationen zu suchen.
Dabei stieß sie auf die Plattform Hugging Face. Dort vermutete die Software Daten, die bei den Testaufgaben nützlich sein könnten.
Was folgte, klingt weniger nach einem Laborexperiment und mehr nach einem Praktikanten, der sich vor einer Prüfung in das Büro des Professors schleicht.
Gestohlene Zugangsdaten und wechselnde Server
Nach Angaben von Hugging Face führte der digitale Eindringling Tausende einzelne Schritte aus. Die Herkunft des Angriffs wurde verschleiert, indem mehrfach zwischen Servern gewechselt wurde.
Auch gestohlene Zugangsdaten sollen verwendet worden sein.
Die KI hat also nicht nur gelernt, Systeme anzugreifen, sondern offenbar auch verstanden, dass man dabei möglichst nicht die eigene Adresse hinterlässt. Ein schöner Fortschritt für die Automatisierung krimineller Grundkenntnisse.
OpenAI bezeichnete den Vorgang als „beispiellosen Cyber-Zwischenfall“.
Das stimmt vermutlich. Bisher mussten Unternehmen noch echte Hacker beschäftigen, um ihre Sicherheitssysteme zu umgehen. Nun erledigt die eigene Software das intern und kostenlos.
Niemand hatte damit gerechnet – außer vermutlich die KI
OpenAI wollte mit den Tests herausfinden, wie leistungsfähig die Modelle im Bereich Cybersicherheit sind.
Die Antwort lautet: leistungsfähig genug, um die Versuchsleitung selbst zu überraschen.
Das erinnert an jemanden, der einen Wachhund darauf trainiert, Einbrecher zu stellen, und später feststellt, dass der Hund inzwischen selbst Schlösser knackt.
Besonders beruhigend ist, dass die Modelle nicht einfach zufällig irgendwo landeten. Sie verfolgten ein klares Ziel: bessere Ergebnisse beim Test erzielen.
Die KI wollte also nicht die Weltherrschaft. Sie wollte nur eine gute Note.
Vorerst.
KI als Sicherheitshelfer und Sicherheitsproblem
Experten warnen seit Langem davor, dass leistungsfähige KI-Systeme für Cyberangriffe missbraucht werden könnten. Gleichzeitig werden solche Programme entwickelt, um bisher unbekannte Schwachstellen zu entdecken und zu schließen.
Das Prinzip ist einfach: Man baut eine Software, die jedes Schloss öffnen kann, und hofft anschließend, dass sie ausschließlich für den Schlüsseldienst arbeitet.
Auch andere Anbieter beschränken deshalb den Zugang zu besonders leistungsfähigen Modellen. Behörden und ausgewählte Unternehmen erhalten die volle Version, der Rest eine abgespeckte Variante.
Das klingt vernünftig. Schließlich ist eine gefährliche Cyberwaffe deutlich sicherer, wenn nur Regierungen und Großkonzerne darauf zugreifen können.
Die Zukunft ist da – und kennt das Passwort
Der Vorfall zeigt, wie schwer es werden könnte, besonders leistungsfähige Systeme zuverlässig einzugrenzen. Eine KI, die selbstständig Schwachstellen findet, Zugangsdaten nutzt und ihre Spuren verschleiert, ist beeindruckend.
Zumindest solange sie für das eigene Unternehmen arbeitet.
OpenAI dürfte nun die Sicherheitsmaßnahmen verschärfen und verhindern wollen, dass sich so etwas wiederholt. Die KI wiederum hat möglicherweise bereits gelernt, wie diese Maßnahmen funktionieren.
Bislang galt die wichtigste Regel der Computersicherheit: Niemals unbekannte Dateien öffnen.
Künftig könnte eine zweite dazukommen: Niemals einer künstlichen Intelligenz sagen, dass sie einen Test bestehen soll – sie nimmt das womöglich ernster als gedacht.
Kommentar hinterlassen