OpenAI zieht bei Astra die Handbremse – wenn die KI plötzlich zu gut im Türenknacken wird

OpenAI hat bei seinem neuen KI-Modell Astra vorsichtshalber den Fuß vom Gas genommen. Der Grund: Das System könnte im Bereich Cybersicherheit möglicherweise Fähigkeiten entwickeln, bei denen selbst die Entwickler sagen: Ähm, vielleicht sperren wir das Ding erst einmal in einen Raum ohne WLAN.

Nach Angaben des Unternehmens wurde die interne Entwicklung teilweise gestoppt beziehungsweise in stärker abgeschottete Testumgebungen verlagert. Erste Auswertungen hätten gezeigt, dass Astra womöglich ein sogenanntes „kritisches“ Fähigkeitsniveau erreicht.

Kritisch bedeutet in diesem Fall nicht, dass die KI plötzlich schlechte Laune bekommt oder in Meetings unangenehme Fragen stellt. Gemeint ist vielmehr die Fähigkeit, eigenständig bislang unbekannte Sicherheitslücken aufzuspüren und möglicherweise sogar auszunutzen.

Solche Schwachstellen werden als Zero-Day-Exploits bezeichnet. Für normale Menschen klingt das schon beunruhigend, für IT-Abteilungen ungefähr so wie „Wir haben ein kleines Problem“ kurz bevor das gesamte Firmennetzwerk dunkel wird.

OpenAI betont, dass bislang noch nicht sicher sei, ob Astra diese Schwelle tatsächlich überschreitet. Die bisherigen Ergebnisse seien allerdings stark genug, um das nicht ausschließen zu können.

Das ist ungefähr so, als würde man bei einem neuen Wachhund feststellen: Wir wissen noch nicht, ob er Türen öffnen kann, aber sicherheitshalber haben wir ihm den Schlüssel weggenommen.

Deshalb wurde Astra nun in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlegt. Frei übersetzt: Die KI darf weiter denken, aber bitte nicht gleich das Internet ausprobieren.

Der Vorgang zeigt zugleich das Dilemma moderner KI-Entwicklung. Je leistungsfähiger die Systeme werden, desto spannender werden nicht nur ihre Möglichkeiten, sondern auch die Frage, ob man ihnen wirklich alles zeigen sollte.

Für Astra heißt das vorerst: Karrierepause wegen Überqualifikation.

Und irgendwo sitzt vermutlich gerade ein IT-Administrator vor seinem Bildschirm und denkt sich: Endlich einmal hat jemand rechtzeitig auf „Netzwerk trennen“ gedrückt.