KI-Sicherheitsforscher warnt vor „Welt in Gefahr“ – und kündigt, um Lyrik zu studieren

Ein führender KI-Sicherheitsforscher hat das US-Unternehmen Anthropic verlassen und seinen Schritt mit einer düsteren Warnung begründet: „Die Welt ist in Gefahr.“ In einem auf X veröffentlichten Abschiedsbrief erklärte Mrinank Sharma, ihn sorgten nicht nur Entwicklungen im Bereich Künstliche Intelligenz, sondern auch Biowaffen und eine Reihe miteinander verknüpfter globaler Krisen.

Sharma leitete bei Anthropic ein Team zur Erforschung von Sicherheitsmechanismen für KI-Systeme. Zu seinen Projekten zählten unter anderem Untersuchungen zu übermäßiger Anpassung von Chatbots an Nutzer, Risiken von KI-gestütztem Bioterrorismus sowie die Frage, ob digitale Assistenten menschliche Fähigkeiten untergraben könnten. Trotz positiver Erfahrungen sei für ihn „die Zeit gekommen, weiterzuziehen“.

Er kritisierte allgemein den wachsenden Druck auf Unternehmen, wirtschaftliche Interessen über ethische Prinzipien zu stellen. Es sei schwer, Werte konsequent zum Maßstab des Handelns zu machen – selbst in Organisationen mit erklärtem Sicherheitsfokus. Künftig wolle er sich dem Schreiben widmen, ein Lyrikstudium aufnehmen und in seine britische Heimat zurückkehren, um „für eine Weile unsichtbar zu werden“.

Anthropic, 2021 von ehemaligen OpenAI-Mitarbeitern gegründet, positioniert sich als besonders sicherheitsorientiertes KI-Unternehmen. Zugleich steht auch die Firma in der Kritik: 2025 einigte sie sich in einem milliardenschweren Vergleich mit Autoren, die ihr vorwarfen, ihre Werke ohne Erlaubnis zum Training von KI-Modellen genutzt zu haben.

Sharmas Abgang fällt in eine Woche, in der auch die frühere OpenAI-Forscherin Zoe Hitzig ihren Rücktritt öffentlich machte. Sie äußerte Bedenken über die Einführung von Werbung in ChatGPT. Nutzer vertrauten Chatbots höchst persönliche Informationen an; darauf basierende Werbung berge Manipulationsrisiken, warnte sie in einem Gastbeitrag.

Die Debatte verdeutlicht wachsende Spannungen in der Branche zwischen wirtschaftlicher Expansion und dem Anspruch, KI im Sinne des Gemeinwohls zu entwickeln.