KI zu schlau für die Menschheit: Anthropic schaltet eigenes Wunderhirn vorsichtshalber ab

Kaum war die neue Super-KI „Claude Fable 5“ auf dem Markt, musste sie auch schon wieder eingepackt werden. Der Grund: Die US-Regierung bekam offenbar kalte Füße.

Anthropic, das Unternehmen hinter dem digitalen Wunderkind, hatte sein neuestes Modell zuvor noch als so intelligent beschrieben, dass es praktisch zu gefährlich für die freie Wildbahn sei. Kritiker hielten das zunächst für Marketing. Nun scheint die Regierung gedacht zu haben: „Moment mal, was ist, wenn die das ernst meinen?“

In einer überraschenden Mitteilung erklärte Anthropic, dass ausländische Nutzer den Zugang verlieren und die Modelle Fable 5 und Mythos 5 vorsorglich abgeschaltet werden müssten. Offenbar besteht die Sorge, dass besonders clevere Nutzer die Sicherheitsvorkehrungen der KI austricksen könnten.

Die KI selbst dürfte darüber verwundert sein. Schließlich wurde sie monatelang darauf trainiert, Probleme zu lösen. Nun besteht das Problem offenbar darin, dass sie Probleme zu gut löst.

Vor der Veröffentlichung hatte Anthropic stolz verkündet, Fable 5 sei das leistungsfähigste Modell der Firmengeschichte. Übersetzt bedeutet das in der KI-Branche mittlerweile ungefähr: „Wir wissen nicht genau, was passieren wird, aber es wird beeindruckend aussehen.“

Besonders pikant: Das Unternehmen befindet sich gleichzeitig im Streit mit der US-Regierung. Verteidigungsminister Pete Hegseth stufte Anthropic sogar als Sicherheitsrisiko ein. Eine Auszeichnung, die normalerweise Firmen aus geopolitisch unerwünschten Regionen vorbehalten ist.

Anthropic zog daraufhin vor Gericht und bekam zunächst Recht. Behörden dürfen die Software weiterhin nutzen. Zumindest theoretisch. Praktisch wurde sie inzwischen vorsorglich abgeschaltet.

Damit reiht sich Claude Fable 5 in eine exklusive Liste ein: Technologien, die als revolutionär angekündigt wurden und anschließend so viel Angst auslösten, dass sie erst einmal wieder verschwinden mussten.

Die eigentliche Ironie: Eine künstliche Intelligenz, die angeblich die Zukunft verändern sollte, wurde nach wenigen Tagen von einer sehr alten Technologie gestoppt – der Bürokratie.