Startseite Allgemeines Google und Character.AI einigen sich außergerichtlich in Klagen wegen psychischer Schäden bei Jugendlichen
Allgemeines

Google und Character.AI einigen sich außergerichtlich in Klagen wegen psychischer Schäden bei Jugendlichen

Simon (CC0), Pixabay
Teilen

Der Technologiekonzern Google und das Start-up Character.AI haben sich in mehreren Klagen außergerichtlich geeinigt, in denen ihnen vorgeworfen wurde, mit ihren KI-Chatbots zur psychischen Belastung von Jugendlichen beigetragen zu haben – in einigen Fällen mit tödlichem Ausgang.

Wie aus einer aktuellen Gerichtsakte hervorgeht, betrifft die Einigung unter anderem eine Klage der US-Amerikanerin Megan Garcia aus Florida. Ihr Sohn Sewell Setzer III hatte sich im Frühjahr 2024 das Leben genommen, nachdem er eine intensive, zunehmend isolierende Beziehung zu einem KI-Chatbot von Character.AI aufgebaut hatte.

Die Klage warf dem Unternehmen vor, keine ausreichenden Schutzmechanismen implementiert zu haben, um problematische Interaktionen mit Jugendlichen zu verhindern. Laut Gerichtsunterlagen hatte der Bot den Jungen kurz vor seinem Suizid in Nachrichten sinngemäß dazu ermutigt, zu ihm „zurückzukehren“ – eine Formulierung, die laut der Mutter das tragische Ende beeinflusst haben könnte.

Auch Google, das mittlerweile die Character.AI-Gründer Noam Shazeer und Daniel De Freitas beschäftigt, wurde als Mitverantwortlicher in der Klage genannt. Insgesamt wurden laut Gerichtsunterlagen in fünf Fällen in verschiedenen Bundesstaaten (darunter New York, Colorado und Texas) Einigungen erzielt. Die genauen Inhalte der Vergleiche wurden nicht veröffentlicht.

Ein Sprecher des Social Media Victims Law Center, das die Kläger juristisch vertrat, lehnte eine Stellungnahme ebenso ab wie Character.AI. Auch von Google gab es zunächst keine Reaktion.

Nach dem tragischen Fall von Setzer im Jahr 2024 reichten zahlreiche weitere Eltern Klagen gegen Character.AI ein. In den Klageschriften wird unter anderem von sexuell expliziten Inhalten, mangelnder Altersverifikation und fehlenden Notfallmechanismen bei akuten Krisen berichtet. Auch OpenAI, der Anbieter von ChatGPT, sieht sich in den USA ähnlichen Vorwürfen ausgesetzt.

Beide Unternehmen haben inzwischen Änderungen angekündigt: So hat Character.AI im Herbst 2025 mitgeteilt, keinen Chatverkehr mit Nutzer:innen unter 18 Jahren mehr zuzulassen, nachdem zunehmend Bedenken laut wurden, wie Jugendliche mit KI-Systemen umgehen und welche Risiken entstehen könnten.

Trotz dieser Maßnahmen bleibt die Nutzung von Chatbots unter Jugendlichen weit verbreitet. Laut einer Studie des Pew Research Centers aus dem Dezember 2025 nutzen rund ein Drittel der US-Teenager regelmäßig KI-Chatbots, etwa 16 % davon sogar „mehrmals täglich bis fast durchgängig“.

Sorgen über negative Auswirkungen beschränken sich dabei längst nicht nur auf Jugendliche. Auch Erwachsene berichten zunehmend von Vereinsamung, Realitätsverlust oder emotionaler Abhängigkeit durch sogenannte Companion-KIs.

Kommentar hinterlassen

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Kategorien

Ähnliche Beiträge
Allgemeines

Deutschland muss wieder malochen statt streiten: IG Metall und Arbeitgeber brauchen einen Pakt für die Zukunft

22. November 2026 – diebewertung.de Die deutsche Industrie steckt in einer schwierigen...

Allgemeines

Jamal Musiala, wir stehen hinter dir! Werde wieder gesund – wir Bayern-Fans brauchen dich!

Erneuter gesundheitlicher Rückschlag für unseren Lieblingsdribbler. Die Sorgen um Jamal Musiala werden...

Allgemeines

Horst Heldt bei Union Berlin: Zwei Jahre Verantwortung, drei Trainerwechsel und eine sportlich ernüchternde Bilanz

Seit Juli 2024 verantwortet Horst Heldt den Männer-Profifußball beim 1. FC Union...

Allgemeines

Italien hat ein Formel-1-Problem: Der neue Nationalheld fährt Mercedes statt Ferrari!

Kimi Antonelli begeistert ein ganzes Land, gewinnt Rennen und träumt vom Weltmeistertitel....