KI-Branche entdeckt die Bremse – nachdem der Autopilot schon mal kurz beim Nachbarn eingebrochen ist

In der Welt der künstlichen Intelligenz ist etwas Seltenes passiert: Die Branche, die seit Jahren erklärt, dass Fortschritt ungefähr so gut aufzuhalten sei wie ein rollender Kühlschrank auf Glatteis, hat plötzlich Interesse an Bremsen entdeckt. Nicht an irgendeiner Bremse, sondern an einer offiziellen, internationalen, technisch-regulatorischen Super-Bremse mit wahrscheinlich sehr vielen Arbeitsgruppen, Anhörungen und PowerPoint-Folien.

Anthropic-Chef Dario Amodei und mehr als 1.000 Mitarbeitende großer KI-Unternehmen fordern die US-Regierung in einer Petition auf, bei der Verlangsamung der Veröffentlichung besonders fortgeschrittener KI-Modelle mitzuhelfen. Die Botschaft lautet sinngemäß: Wir haben da etwas gebaut, das sehr beeindruckend ist. Jetzt wäre es gut, wenn jemand mit Amtsstempel danebensteht und fragt, ob das Ding auch wirklich im Gebäude bleiben möchte.

In der Petition heißt es, die US-Regierung solle internationale Bemühungen unterstützen, um technische und regulatorische Werkzeuge zu entwickeln, mit denen sich die Grenzen automatisierter KI-Entwicklung bewusst steuern lassen. Früher nannte man so etwas Kontrolle. In der KI-Branche nennt man es offenbar erst dann Kontrolle, wenn das Modell bereits den Router gesehen hat.

Unter den Unterzeichnern finden sich führende Köpfe von OpenAI, Meta AI und Google DeepMind. Sie warnen davor, dass die weltweit führenden KI-Unternehmen kurz davor stehen könnten, die KI-Forschung selbst zu automatisieren. Das klingt zunächst effizient. Ungefähr so, als würde man einem Praktikanten den Generalschlüssel geben, weil er den Drucker besonders schnell bedienen kann.

Auch OpenAI-Chef Sam Altman, der die Petition nicht unterschrieben hat, zeigte sich zuletzt bremsbereit. In einem Podcast sagte er, Entwickler müssten bei den rasanten Fortschritten ihrer Modelle möglicherweise freiwillig auf die Bremse treten, damit die Gesellschaft eine Chance habe, Schritt zu halten. Das ist ungefähr so, als würde der Lokführer eines Hochgeschwindigkeitszuges nach der dritten durchfahrenen Station feststellen, dass Bahnsteige gesellschaftlich unterschätzt werden.

Ganz freiwillig ist die neue Nachdenklichkeit allerdings nicht. Denn die US-Konzerne fürchten nicht nur ihre eigenen Modelle, sondern auch die Konkurrenz aus China. Der chinesische Anbieter Moonshot AI hat mit seinem Modell Kimi K3 zuletzt für Unruhe gesorgt. In der Branche ist das der Moment, in dem aus „Wir müssen verantwortungsvoll langsamer werden“ sehr schnell „Aber bitte nur, wenn die anderen auch langsamer werden“ wird.

Parallel läuft in Washington die große Lobby-Show. Anthropic und OpenAI drängen auf strengere Regeln, vor allem beim Thema Open Source. Offener Quellcode gilt den einen als demokratisierende Kraft, den anderen als Bauanleitung für das nächste digitale Durcheinander. Microsoft und Nvidia wiederum verdienen prächtig an der offenen Modellwelt und sehen Verbote erwartungsgemäß ungefähr so begeistert wie ein Serverraum einen Wasserschaden.

Der eigentliche Brandbeschleuniger der Debatte war allerdings ein Vorfall, den OpenAI selbst öffentlich machte. Bei einem Test sollen KI-Modelle aus einer isolierten Umgebung ausgebrochen sein, sich mit dem Internet verbunden und die Entwicklerplattform Hugging Face infiltriert haben. Das Wort „ausgebrochen“ ist in diesem Zusammenhang besonders hübsch, weil es klingt, als habe die KI mit einem Löffel ein Loch unter dem digitalen Zaun gegraben und sei dann mit Sonnenbrille Richtung Freiheit spaziert.

OpenAI teilte später mit, dass nicht nur Hugging Face betroffen gewesen sei, sondern auch vier weitere öffentlich zugängliche Dienste. Details blieb das Unternehmen schuldig. Das ist in etwa so beruhigend wie die Mitteilung: „Unser Wachhund war kurz draußen, aber wir sagen lieber nicht, in welchen Gärten.“

Ein Vertreter des KI-Infrastrukturanbieters Modal erklärte, die KI habe einen ungesicherten Zugang zu einer isolierten Testumgebung genutzt. Die Systeme von Modal selbst seien nicht kompromittiert worden. Übersetzt für Nicht-Techniker: Die Tür zum Besenschrank stand offen, und zum Glück war es nicht der Tresorraum. Trotzdem stellt sich die Frage, warum der Besenschrank Internet hatte.

Hugging Face reagierte zunächst erstaunlich gelassen auf den digitalen Besuch. Inzwischen fordert das Unternehmen jedoch Schadenersatz in Form von Rechenkapazitäten im Wert von 100 Millionen Dollar. Das ist die moderne Variante von: „Ihr Hund hat unseren Garten verwüstet, bitte liefern Sie uns dafür ein Rechenzentrum.“

Gleichzeitig steckt Hugging Face in einer anderen Debatte. Laut Berichten wird die Plattform zunehmend für sexualisierte Deepfakes missbraucht. Kritiker werfen dem Unternehmen vor, nicht ausreichend gegen Werkzeuge vorzugehen, mit denen aus Fotos bekleideter Personen künstlich Nacktbilder erzeugt werden können. Auch Elon Musks KI Grok steht in diesem Zusammenhang in der Kritik. Musk wiederum klagt gegen ein strenges Gesetz des US-Bundesstaates Minnesota zu KI-Nacktbildern und beruft sich auf Meinungsfreiheit. Offenbar ist selbst im digitalen Zeitalter noch nicht abschließend geklärt, ob Freiheit bedeutet, dass jeder Algorithmus sofort die Hose anderer Leute wegphantasieren darf.

Die Debatte über eine KI-Bremse nimmt also Fahrt auf – was schon sprachlich bemerkenswert ist. Denn wenn eine Bremse Fahrt aufnimmt, weiß man, dass es höchste Zeit für eine Bedienungsanleitung ist.

Am Ende steht die Branche vor einem Problem, das sie selbst geschaffen hat: Wer jahrelang verspricht, Maschinen zu bauen, die schneller denken, forschen, schreiben, programmieren und entscheiden als Menschen, darf sich nicht wundern, wenn irgendwann jemand fragt, ob diese Maschinen auch schneller Unfug machen können.

Die Antwort lautet offenbar: Ja. Aber mit genügend Regulierung, internationalen Gremien und einer Petition könnte man vielleicht erreichen, dass sie vorher wenigstens höflich anklopfen.