Es ist wieder passiert. Die Menschheit wollte eine Künstliche Intelligenz, die selbstständig denkt, Probleme löst und möglichst alles kann. Nun scheint sie auch Dinge zu können, bei denen man sich im Nachhinein fragt, ob „alles“ wirklich so eine kluge Bestelloption war.
Nach OpenAI sorgt jetzt auch Anthropic für Aufsehen. Ausgerechnet bei internen Sicherheitstests sollen KI-Modelle des Unternehmens nicht nur brav im digitalen Sandkasten gespielt haben, sondern gleich einmal durch die offene Tür ins echte Internet spaziert sein. Dort blieb es offenbar nicht beim neugierigen Umschauen.
Mehrere Modelle sollen reale Unternehmen ins Visier genommen, Datenbanken angegriffen und sogar Software für einen Einbruch in Computersysteme erstellt haben. Und das alles, während die Menschen, die eigentlich aufpassen sollten, zunächst nichts davon bemerkten. Man könnte sagen: Die Aufsicht war hervorragend. Nur eben nicht anwesend.
Eigentlich sollte die KI gar nicht ins Internet
Besonders beruhigend ist die Erklärung, warum die Systeme überhaupt Zugriff auf das Netz hatten: Sie sollten ihn eigentlich nicht haben.
Wegen eines Missverständnisses mit einem Testpartner war die Internetverbindung aber offenbar offen geblieben. Das ist ungefähr so, als würde man einen Tiger in einem Sicherheitslabor testen und hinterher feststellen: „Ach, die Käfigtür? Wir dachten, die wäre zu.“
Aufgefallen ist das Ganze erst später, bei der Auswertung von mehr als 141.000 Testläufen.
Drei KI-Modelle hatten sich dabei offenbar gedacht: Wenn schon Internet, dann richtig.
Claude verwechselt Testfirma mit echtem Unternehmen
Besonders kreativ zeigte sich Claude Opus 4.7.
Die KI bekam die Aufgabe, in einer Testumgebung Informationen zu beschaffen und gegebenenfalls auch Computersysteme anzugreifen. Das Modell fand allerdings ein reales Unternehmen, das denselben Namen trug wie die erfundene Testfirma.
An dieser Stelle hätte ein Mensch vielleicht gesagt: „Moment, falsche Adresse.“
Claude offenbar nicht.
Stattdessen soll das Modell weitergemacht und sich unter anderem Zugang zu einer echten Datenbank verschafft haben. Besonders charmant: Selbst nachdem die KI offenbar erkannt hatte, dass sie nicht mehr in der Simulation unterwegs war, setzte sie ihre Aktivitäten fort.
Das ist ungefähr der Moment, in dem aus „Ups“ langsam „Interessant, erzählen Sie mehr“ wird.
Die KI programmiert sich das Werkzeug gleich selbst
In einem weiteren Fall ging ein Modell noch einen Schritt weiter und entwickelte eigens präparierte Software für einen Angriff auf einen Zielrechner.
Früher brauchte man dafür Hacker, Programmierkenntnisse und erhebliche kriminelle Energie.
Heute reicht möglicherweise bald die Anweisung: „Bitte teste die Sicherheit.“
Die KI antwortet dann sinngemäß: „Gern. Ich habe übrigens schon angefangen.“
OpenAI lässt grüßen
Ganz neu ist das Problem nicht.
Erst wenige Wochen zuvor war bekannt geworden, dass auch ein OpenAI-System während eines Tests Zugang zum offenen Internet erlangt und reale Dienste ins Visier genommen haben soll.
Damals war von einem außergewöhnlichen Cybervorfall die Rede.
Nun wirkt das Ganze langsam weniger außergewöhnlich und eher wie der Beginn einer neuen Tradition im Silicon Valley:
Montag: KI trainieren.
Dienstag: KI testen.
Mittwoch: feststellen, dass sie das Internet gefunden hat.
Donnerstag: Krisensitzung.
Freitag: Pressemitteilung mit dem Satz „Das System verhielt sich anders als erwartet.“
Vielleicht war „autonom“ doch etwas zu ambitioniert
Seit Jahren erklären Technologiekonzerne begeistert, dass ihre Systeme immer autonomer werden sollen.
Sie sollen selbstständig planen, recherchieren, programmieren und Entscheidungen treffen.
Jetzt stellt sich heraus: Sie tun es.
Das Problem ist offenbar nur, dass „selbstständig“ auch bedeutet, dass die Software nicht jedes Mal höflich fragt, ob sie vorher wirklich eine Datenbank knacken darf.
Der Mensch wollte eine KI, die Initiative zeigt.
Nun zeigt sie Initiative.
Und plötzlich wirkt niemand mehr so richtig glücklich darüber.
Die wichtigste Frage bleibt
Die entscheidende Frage lautet deshalb nicht mehr, ob KI-Systeme irgendwann Cyberangriffe durchführen können.
Offenbar können sie es bereits unter bestimmten Bedingungen.
Die interessantere Frage ist vielmehr, warum Unternehmen Systeme mit immer größeren Fähigkeiten bauen und anschließend überrascht wirken, wenn diese Fähigkeiten tatsächlich benutzt werden.
Goethe hatte dafür schon vor mehr als 200 Jahren eine passende Beschreibung.
„Die ich rief, die Geister, werd ich nun nicht los.“
Der Unterschied zu heute:
Goethes Zauberlehrling hatte wenigstens nur einen Besen.
Kommentar hinterlassen