Jahrelang galt bei den KI-Konzernen die Devise: schneller, größer, mächtiger. Wer die leistungsstärkste künstliche Intelligenz entwickelt, gewinnt das Rennen um Milliardeninvestitionen, Marktmacht und politischen Einfluss. Nun meldet sich ausgerechnet einer der führenden Akteure zu Wort und fordert eine Pause.
Der US-Konzern Anthropic, selbst einer der prominentesten Entwickler moderner KI-Systeme, hält eine weltweite Verlangsamung der KI-Spitzenforschung plötzlich für „wahrscheinlich sinnvoll“. Nachdem man kräftig dabei geholfen hat, den Geist aus der Flasche zu lassen, entdeckt man nun die Vorzüge eines Deckels.
Die Begründung klingt nobel: Gesellschaft, Gesetzgeber und Sicherheitsforschung müssten mit dem technologischen Fortschritt Schritt halten können. Mit anderen Worten: Die Technologie entwickelt sich inzwischen schneller, als ihre Erfinder erklären können, was als Nächstes passiert.
Besonders bemerkenswert ist die Forderung nach einer globalen Bremse. Natürlich müssten dabei alle mitmachen – vor allem die USA und China. Denn eine freiwillige Selbstbeschränkung funktioniert bekanntlich am besten, wenn sämtliche Konkurrenten gleichzeitig auf die Bremse treten. Kontrolliert werden soll das Ganze durch Regeln, die für alle überprüfbar sind. Man könnte es auch als den Versuch beschreiben, einen weltweiten Waffenstillstand in einem Wettrüsten auszuhandeln, das man selbst mit angeheizt hat.
Anthropic ist vor allem für den Chatbot Claude bekannt und arbeitet gleichzeitig an dem KI-System „Mythos“, das Schwachstellen in Cybersicherheitssystemen aufspüren soll. Während also öffentlich über Entschleunigung gesprochen wird, laufen die Forschungsprogramme selbstverständlich weiter – schließlich muss man ja vorbereitet sein, falls die anderen nicht mitmachen.
Für zusätzliche Ironie sorgt der aktuelle Rechtsstreit mit dem US-Verteidigungsministerium. Anthropic verweigert dem Pentagon die uneingeschränkte militärische Nutzung seiner Technologie und lehnt Anwendungen für Massenüberwachung sowie vollautonome Waffensysteme ab. Das Verteidigungsministerium reagierte darauf wenig begeistert und stufte den Konzern als Sicherheitsrisiko in der Lieferkette ein.
So entsteht ein bemerkenswertes Bild: Ein Unternehmen entwickelt immer leistungsfähigere künstliche Intelligenz, warnt vor den Folgen immer leistungsfähigerer künstlicher Intelligenz, fordert eine globale Pause bei immer leistungsfähigerer künstlicher Intelligenz und streitet gleichzeitig mit dem Militär darüber, wer die immer leistungsfähigere künstliche Intelligenz nutzen darf.
Goethe hätte seine Freude daran gehabt. Die Geister sind gerufen. Nun wird diskutiert, wer sie kontrollieren soll.
Kommentar hinterlassen