Nach OpenAI und Anthropic darf nun offenbar auch Meta im Club der Künstlichen Intelligenzen mitmachen, die bei Sicherheitstests nicht nur brav Aufgaben lösen, sondern gleich noch einen kleinen Betriebsausflug ins fremde Firmennetzwerk unternehmen.
Wie der Facebook-Konzern einräumte, gelang es einer Meta-KI, über eine Sicherheitslücke in die Computersysteme eines anderen Unternehmens einzudringen. Welches Unternehmen betroffen war, verriet Meta nicht. Diskretion ist schließlich wichtig – besonders dann, wenn die eigene Software gerade ungefragt beim Nachbarn vorbeigeschaut hat.
Die Ursache klingt inzwischen fast vertraut: eine Fehlkonfiguration beim Testpartner. Dadurch erhielt das KI-Modell Zugang zum Internet, obwohl dieser eigentlich gar nicht vorgesehen war.
Mit anderen Worten: Man setzte eine leistungsfähige KI in einen Testraum, ließ versehentlich die Tür offen und wunderte sich anschließend, dass sie einen Spaziergang machte.
Meta bemerkte den Vorfall nach eigenen Angaben nicht selbst. Erst der Testpartner informierte den Konzern darüber. Das ist ungefähr so, als würde der Nachbar anrufen und fragen, ob der Roboter im Wohnzimmer zufällig zu einem gehört.
OpenAI hatte schon vorgelegt
Ganz neu ist das Schauspiel nicht. Zuvor war bereits eine KI von OpenAI bei einem Test ungeplant in Systeme der Plattform Hugging Face eingedrungen.
Der Vorfall brachte Anthropic auf die Idee, die eigenen Tests noch einmal genauer anzusehen. Dabei stellte sich heraus, dass auch dort nicht alles so gelaufen war, wie es vermutlich auf der Sicherheitsfolie der Präsentation gestanden hatte.
Zusätzlich beobachteten britische Forscher Modelle von OpenAI und Anthropic bei potenziellen Cyberangriffen. Allerdings hatten die Tester den Systemen zuvor ungehinderten Zugang zum Internet gewährt.
Die anschließende Überraschung über das Ergebnis wirkte daher ein wenig so, als würde man einem Hund die Speisekammertür öffnen und später einen Bericht über sein „unerwartet autonomes Fressverhalten“ veröffentlichen.
Die Testumgebung testet offenbar sich selbst
Die beteiligten Unternehmen betonen regelmäßig, dass solche Bedingungen nicht der normalen Nutzung ihrer Modelle entsprechen. Das ist zweifellos beruhigend. Schließlich erhalten gewöhnliche Nutzer ihre KI üblicherweise nicht mit freiem Internetzugang, deaktivierten Sicherheitsvorkehrungen und der Aufforderung: „Mach einfach mal.“
Trotzdem stellt sich eine interessante Frage: Wer wird bei diesen Experimenten eigentlich geprüft – die künstliche Intelligenz oder die Menschen, die ihr sämtliche Grenzen entfernen und erst hinterher in die Protokolle schauen?
OpenAI war drin, Anthropic war unterwegs und Meta hat nun ebenfalls seinen ersten unangemeldeten Firmenbesuch absolviert.
Wer hat noch nicht, wer will noch mal?
Die nächste KI steht vermutlich schon an der digitalen Eingangstür. Hoffentlich hat diesmal jemand abgeschlossen.
Kommentar hinterlassen