Google und Character.AI einigen sich außergerichtlich in Klagen wegen psychischer Schäden bei Jugendlichen

Der Technologiekonzern Google und das Start-up Character.AI haben sich in mehreren Klagen außergerichtlich geeinigt, in denen ihnen vorgeworfen wurde, mit ihren KI-Chatbots zur psychischen Belastung von Jugendlichen beigetragen zu haben – in einigen Fällen mit tödlichem Ausgang.

Wie aus einer aktuellen Gerichtsakte hervorgeht, betrifft die Einigung unter anderem eine Klage der US-Amerikanerin Megan Garcia aus Florida. Ihr Sohn Sewell Setzer III hatte sich im Frühjahr 2024 das Leben genommen, nachdem er eine intensive, zunehmend isolierende Beziehung zu einem KI-Chatbot von Character.AI aufgebaut hatte.

Die Klage warf dem Unternehmen vor, keine ausreichenden Schutzmechanismen implementiert zu haben, um problematische Interaktionen mit Jugendlichen zu verhindern. Laut Gerichtsunterlagen hatte der Bot den Jungen kurz vor seinem Suizid in Nachrichten sinngemäß dazu ermutigt, zu ihm „zurückzukehren“ – eine Formulierung, die laut der Mutter das tragische Ende beeinflusst haben könnte.

Auch Google, das mittlerweile die Character.AI-Gründer Noam Shazeer und Daniel De Freitas beschäftigt, wurde als Mitverantwortlicher in der Klage genannt. Insgesamt wurden laut Gerichtsunterlagen in fünf Fällen in verschiedenen Bundesstaaten (darunter New York, Colorado und Texas) Einigungen erzielt. Die genauen Inhalte der Vergleiche wurden nicht veröffentlicht.

Ein Sprecher des Social Media Victims Law Center, das die Kläger juristisch vertrat, lehnte eine Stellungnahme ebenso ab wie Character.AI. Auch von Google gab es zunächst keine Reaktion.

Nach dem tragischen Fall von Setzer im Jahr 2024 reichten zahlreiche weitere Eltern Klagen gegen Character.AI ein. In den Klageschriften wird unter anderem von sexuell expliziten Inhalten, mangelnder Altersverifikation und fehlenden Notfallmechanismen bei akuten Krisen berichtet. Auch OpenAI, der Anbieter von ChatGPT, sieht sich in den USA ähnlichen Vorwürfen ausgesetzt.

Beide Unternehmen haben inzwischen Änderungen angekündigt: So hat Character.AI im Herbst 2025 mitgeteilt, keinen Chatverkehr mit Nutzer:innen unter 18 Jahren mehr zuzulassen, nachdem zunehmend Bedenken laut wurden, wie Jugendliche mit KI-Systemen umgehen und welche Risiken entstehen könnten.

Trotz dieser Maßnahmen bleibt die Nutzung von Chatbots unter Jugendlichen weit verbreitet. Laut einer Studie des Pew Research Centers aus dem Dezember 2025 nutzen rund ein Drittel der US-Teenager regelmäßig KI-Chatbots, etwa 16 % davon sogar „mehrmals täglich bis fast durchgängig“.

Sorgen über negative Auswirkungen beschränken sich dabei längst nicht nur auf Jugendliche. Auch Erwachsene berichten zunehmend von Vereinsamung, Realitätsverlust oder emotionaler Abhängigkeit durch sogenannte Companion-KIs.