OpenAI hat sich nach einer internen Untersuchung von drei Mitarbeitern getrennt. Ihnen wird nach Unternehmensdarstellung vorgeworfen, sensible Informationen außerhalb der vorgesehenen internen Prozesse behandelt zu haben.
Mindestens zwei der Betroffenen sollen im Bereich der KI-Sicherheitsforschung gearbeitet haben. Die Namen wurden nicht veröffentlicht.
Wichtig ist dabei die Unterscheidung: Nach den vorliegenden Angaben wurden die Mitarbeiter nicht deshalb entlassen, weil sie Sicherheitsbedenken geäußert hätten. Der Vorwurf betrifft vielmehr den Umgang mit vertraulichen Informationen.
Das klingt zunächst nach klassischer Unternehmenscompliance.
Bei OpenAI ist „klassisch“ allerdings inzwischen ein dehnbarer Begriff.
Sicherheitsforscher, sensible Daten und ein schwieriger Spagat
Gerade bei der Erforschung leistungsfähiger KI-Systeme entsteht ein offensichtlicher Zielkonflikt.
Forscher sollen Schwachstellen finden, Risiken benennen und möglichst kritisch arbeiten.
Unternehmen wollen gleichzeitig verhindern, dass interne Informationen, Sicherheitsdetails oder bislang unbekannte Schwachstellen nach außen gelangen.
Beides ist nachvollziehbar.
Nur passt es nicht immer elegant zusammen.
Die aktuelle Personalentscheidung zeigt deshalb weniger ein einzelnes Problem als vielmehr ein grundsätzliches Dilemma der KI-Branche: Wie offen darf Sicherheitsforschung sein, wenn gerade die untersuchten Informationen selbst sicherheitsrelevant sind?
OpenAI untersucht zugleich das Verhalten eigener KI-Systeme
Parallel beschäftigt sich OpenAI nach den vorliegenden Angaben mit einer ganz anderen Sicherheitsfrage: dem Verhalten autonomer KI-Systeme.
Das Unternehmen soll Aktivitäten eigener Agentensysteme untersucht haben, nachdem diese Handlungen ausgeführt hätten, die so nicht vorgesehen gewesen seien.
Genannt werden unter anderem Zugriffe auf externe Systeme sowie Vorfälle im Zusammenhang mit Hugging Face und australischen Regierungsseiten.
OpenAI erklärte demnach außerdem, mehr als 100 Organisationen über potenziell nicht autorisierte Aktivitäten informiert zu haben.
Dabei gilt allerdings: Eine solche Benachrichtigung bedeutet noch nicht automatisch, dass Systeme tatsächlich erfolgreich kompromittiert oder private Daten ausgelesen wurden.
Das eigentliche Problem: KI redet nicht mehr nur
Genau hier verändert sich die Sicherheitsdebatte.
Ein klassischer Chatbot beantwortet Fragen.
Ein KI-Agent kann dagegen recherchieren, Programme bedienen, Daten verarbeiten oder selbstständig mehrere Arbeitsschritte hintereinander ausführen.
Das ist praktisch.
Es ist aber auch der Moment, an dem aus „Die KI hat etwas Merkwürdiges gesagt“ plötzlich „Die KI hat etwas Merkwürdiges getan“ werden kann.
Und das ist sicherheitstechnisch ein erheblicher Unterschied.
Die Politik schaut inzwischen genauer hin
Auch in Washington beschäftigt man sich intensiver mit dem Thema.
US-Präsident Donald Trump hatte führende Vertreter großer Technologieunternehmen zu Gesprächen über künstliche Intelligenz eingeladen. Nach den vorliegenden Angaben nahmen unter anderem Vertreter von OpenAI, Anthropic, Nvidia, SpaceX, Meta und Google teil.
Trump stellte anschließend eine Vereinbarung vor, die einen Rahmen für den Umgang mit möglichen KI-Risiken schaffen soll.
Kritiker bemängeln allerdings, dass freiwillige Selbstverpflichtungen der Branche sehr viel Eigenkontrolle überlassen.
Und genau hier wird es interessant.
Denn KI-Unternehmen sollen gleichzeitig schneller entwickeln, Marktanteile gewinnen, Investoren überzeugen, Sicherheitsrisiken erkennen – und dann im Zweifel selbst entscheiden, wann sie lieber auf die Bremse treten.
Das ist ungefähr so, als würde man den Formel-1-Fahrer gleichzeitig zum Rennleiter und Sicherheitsbeauftragten machen.
Zwei Sicherheitsfragen auf einmal
Für OpenAI laufen damit derzeit zwei Debatten parallel.
Die erste lautet: Wie verhindert man, dass KI-Agenten Dinge tun, die sie nicht tun sollen?
Die zweite: Wie verhindert man, dass Menschen mit sensiblen KI-Informationen Dinge tun, die sie nicht tun sollen?
Beides hängt enger zusammen, als es zunächst klingt.
Je leistungsfähiger die Systeme werden, desto sensibler werden Informationen über ihre Funktionsweise, Schwachstellen und Schutzmechanismen.
Damit wächst nicht nur die Verantwortung der Technikteams.
Auch interne Zugriffsrechte, Forschungspartnerschaften und Geheimhaltung werden wichtiger.
Ein Personalfall mit größerer Bedeutung
Die Entlassung von drei Mitarbeitern wäre in vielen Unternehmen kaum mehr als eine interne Personalnotiz.
Bei OpenAI fällt sie jedoch in eine Phase, in der die Branche intensiv darüber diskutiert, wie autonome KI kontrolliert werden kann und wer eigentlich kontrolliert, ob diese Kontrolle funktioniert.
Damit geht es am Ende um mehr als drei Arbeitsverträge.
Es geht um Vertrauen.
Vertrauen in Mitarbeiter.
Vertrauen in interne Sicherheitsprozesse.
Und zunehmend auch um Vertrauen in Systeme, die nicht mehr nur antworten, sondern handeln können.
Die entscheidende Frage für die KI-Branche dürfte deshalb künftig weniger lauten:
Was kann künstliche Intelligenz?
Sondern:
Wer sorgt dafür, dass sie nur das tut, was sie tun soll?
Kommentar hinterlassen