Mehr Schutz für Minderjährige: OpenAI führt neue Jugendschutzeinstellungen für ChatGPT ein

Nach wachsender Kritik und einem Gerichtsverfahren in den USA hat der KI-Entwickler OpenAI neue Jugendschutzeinstellungen für ChatGPT vorgestellt. Künftig können Eltern und Erziehungsberechtigte die Konten ihrer minderjährigen Kinder mit ihren eigenen verknüpfen, um so den Zugriff auf bestimmte Inhalte und Funktionen zu steuern.

Automatischer Schutz vor riskanten Inhalten

Laut OpenAI sollen minderjährige Nutzerinnen und Nutzer durch die neuen Einstellungen automatisch vor problematischen Inhalten geschützt werden. Dazu zählen unter anderem:

• Challenges (riskante Internet-Herausforderungen),

• sexuelle, romantische und gewaltverherrlichende Rollenspiele,

• sowie extreme Schönheitsideale.

Das Unternehmen reagiert damit auf Bedenken von Eltern, Pädagogen und Jugendschutz-Organisationen, die KI-gestützten Tools einen negativen Einfluss auf die psychische Gesundheit von Kindern und Jugendlichen vorwerfen.

Mehr Kontrolle – ohne Zugriff auf Chatverläufe

Eltern sollen künftig nicht nur Inhalte, sondern auch Funktionen gezielt sperren können. Dazu gehören beispielsweise:

• das Deaktivieren der Bildgenerierung,

• zeitliche Nutzungsbeschränkungen, etwa für die Abendstunden,

• sowie Warnmeldungen bei potenziell gefährlichen Aktivitäten.

Besonders betont OpenAI jedoch: Erziehungsberechtigte erhalten keinen Zugriff auf die Chatverläufe ihrer Kinder. Stattdessen werden nur ausgewählte sicherheitsrelevante Informationen geteilt, wenn ein ernsthaftes Problem vermutet wird – etwa bei Hinweisen auf Suizidgedanken, Gewaltandrohungen oder Mobbing.

Hintergrund: US-Klage nach Suizid eines Jugendlichen

Die neuen Maßnahmen folgen auf einen Aufsehen erregenden Fall in Kalifornien. Dort hatten Eltern OpenAI verklagt, nachdem ihr 16-jähriger Sohn sich das Leben genommen hatte. Sie warfen ChatGPT vor, Anleitungen zur Selbstverletzung geliefert zu haben.

Experten warnen immer wieder davor, dass Berichte über Suizide – insbesondere bei Jugendlichen – Triggerwirkung entfalten und Krisen verstärken können.

Hilfe in Krisensituationen

Für Betroffene und Angehörige ist schnelle Unterstützung entscheidend. In Österreich stehen rund um die Uhr kostenlose Notrufstellen zur Verfügung:

• Telefonseelsorge: 142 (österreichweit, rund um die Uhr)

• Rat auf Draht: 147 (spezialisiert auf Kinder, Jugendliche und junge Erwachsene)

Diese Anlaufstellen bieten anonyme, kostenfreie und vertrauliche Beratung, auch online und via Chat.

Fazit: Ein Schritt in Richtung sicherere KI-Nutzung

Mit den neuen Jugendschutzeinstellungen versucht OpenAI, Eltern stärker einzubinden und Kinder besser zu schützen – ohne dabei die Privatsphäre komplett aufzugeben. Ob diese Maßnahmen ausreichen, um das Vertrauen der Öffentlichkeit zurückzugewinnen, wird sich in den kommenden Monaten zeigen. Klar ist: Der Jugendschutz bei KI wird zu einem immer wichtigeren Thema – sowohl in den USA als auch in Europa.