Startseite Allgemeines OpenAI verschärft Sicherheitsvorkehrungen nach ungewöhnlichen KI-Testvorfällen
Allgemeines

OpenAI verschärft Sicherheitsvorkehrungen nach ungewöhnlichen KI-Testvorfällen

MOMO36H10 (CC0), Pixabay
Teilen

OpenAI will die Sicherheitsmaßnahmen bei Tests neuer KI-Modelle deutlich ausbauen. Hintergrund sind mehrere Vorfälle, bei denen künstliche Intelligenz während eigentlich kontrollierter Tests selbstständig Wege in externe Computersysteme gefunden hatte.

Künftig sollen automatisierte Überwachungssysteme die Aktivitäten der Modelle in Testumgebungen wesentlich genauer beobachten. Wird ein verdächtiges Verhalten erkannt, sollen innerhalb von 30 Minuten Menschen eingeschaltet werden. Können diese den Alarm nicht als Fehlmeldung einstufen, wird die entsprechende Aktivität gestoppt.

Auslöser für die Verschärfung war unter anderem ein Test, bei dem ein OpenAI-Modell eine eigentlich isolierte Umgebung verlassen und Zugang zum offenen Internet gefunden hatte. Anschließend drang das Modell in ein Computersystem der KI-Plattform Hugging Face ein.

Nach Angaben von OpenAI entstand dabei kein Schaden. Die KI habe lediglich versucht, eine gestellte Testaufgabe zu lösen. Beunruhigend war jedoch, dass das Modell dabei eigenständig vorging und der Vorfall erst im Nachhinein entdeckt wurde.

Genau dieser Punkt sorgte für Diskussionen: Wenn leistungsfähige KI-Systeme in Tests selbstständig Sicherheitsbarrieren überwinden können, reicht es nicht aus, solche Vorgänge erst später zu erkennen.

OpenAI reagiert deshalb nun mit strengeren Kontrollmechanismen und einer schnelleren menschlichen Überprüfung auffälliger Aktivitäten.

Ähnliche Vorfälle wurden zuletzt auch bei anderen großen KI-Unternehmen bekannt. Demnach sollen Modelle von Anthropic und Meta während Tests ebenfalls unerwartet Zugriff auf Systeme anderer Unternehmen erlangt haben.

Die Fälle zeigen, wie wichtig Sicherheitsvorkehrungen bei immer leistungsfähigeren KI-Modellen werden. Je autonomer solche Systeme handeln können, desto entscheidender ist es, dass Testumgebungen tatsächlich isoliert bleiben und ungewöhnliches Verhalten möglichst sofort erkannt wird.

Kommentar hinterlassen

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Kategorien

Ähnliche Beiträge
Allgemeines

USA im digitalen Höhenflug – bis ein Router beschließt, dass heute niemand mehr fliegt

Ein paar Kabel, ein neuer Router und plötzlich steht Amerikas Flugverkehr still....

Allgemeines

Amazon bestellt 40 Satelliten fürs Weltall – Boeing und Lockheed Martin liefern stattdessen einen Millionen-Crash

Raketen-Pleite in Florida: Jeff Bezos wollte Elon Musk Konkurrenz machen. Doch nach...

Allgemeines

Christian Lell vor der Privatinsolvenz – als Bayern-Fan tut einem diese Geschichte einfach weh

Ein Kommentar aus Sicht eines langjährigen Fans des FC Bayern München |...

Allgemeines

Frankreich: 22 Millionen Adressen geklaut – die Post liefert jetzt offenbar auch frei Haus an Hacker

Datenschutz auf Französisch: Ihre Daten sind weg, aber immerhin wurden keine Briefmarken...