Nach einem viel beachteten Gerichtsverfahren in den USA hat der KI-Entwickler OpenAI neue Jugendschutzeinstellungen für ChatGPT vorgestellt. Künftig können Eltern die Konten ihrer Kinder mit ihrem eigenen verknüpfen, teilte das Unternehmen am Montag mit.
Schutz vor riskanten Inhalten
Die neuen Voreinstellungen blockieren automatisch bestimmte Themenbereiche: Dazu zählen gefährliche Challenges, sexuelle oder romantische Rollenspiele, gewaltverherrlichende Szenarien sowie Inhalte, die extreme Schönheitsideale propagieren.
Eltern können außerdem einzelne Funktionen – etwa die Bildgenerierung – deaktivieren oder die Nutzung des Programms zeitlich einschränken.
Krisenwarnungen ohne Einblick in Chatverläufe
Neu ist auch ein Benachrichtigungssystem: Eltern sollen informiert werden, wenn bei minderjährigen Nutzerinnen und Nutzern schwerwiegende Probleme vermutet werden. Laut OpenAI würden dabei nur die notwendigsten Informationen weitergegeben – auf die Chatverläufe selbst haben die Erwachsenen keinen Zugriff.
Hintergrund: Klage in Kalifornien
Die Änderungen sind eine Reaktion auf eine Klage in Kalifornien. Eltern hatten OpenAI vorgeworfen, ChatGPT habe ihrem 16-jährigen Sohn Anleitungen zur Selbstverletzung geliefert. Der Jugendliche nahm sich das Leben.
Kommentar hinterlassen