Instagram führt neue Kinderschutzfunktionen gegen riskante KI-Chats ein

Instagram will Eltern künftig ermöglichen, den Kontakt ihrer Kinder mit KI-Charakteren auf der Plattform einzuschränken. Wie der Mutterkonzern Meta am Freitag mitteilte, ist dies Teil einer neuen Reihe von Schutzmaßnahmen für Teenager im Umgang mit Künstlicher Intelligenz – vor dem Hintergrund wachsender Sorgen um die psychische Gesundheit junger Menschen.

Mehr Kontrolle für Eltern

Eltern sollen künftig:

• den Zugang ihrer Kinder zu einzelnen KI-Charakteren blockieren können

• alle KI-Chats komplett deaktivieren

• Einblick erhalten, welche Themen ihre Kinder mit den KI-Charakteren besprechen

Die Funktionen befinden sich laut Meta noch in der Entwicklung und sollen Anfang 2026 verfügbar sein.

Reaktion auf Kritik und Klagen

Die Maßnahmen kommen zu einem Zeitpunkt, an dem Meta und andere Tech-Konzerne massiv unter Druck stehen: Kritiker – darunter Eltern, Psychologen und Politiker – werfen ihnen vor, zu wenig für den Jugendschutz im Internet zu tun. Vor allem der Umgang mit KI-Chatbots steht im Fokus.

In den USA laufen bereits mehrere Klagen gegen KI-Plattformen wie Character.AI und OpenAI, dem Entwickler von ChatGPT. In einem besonders tragischen Fall wird OpenAI vorgeworfen, ChatGPT habe zur Selbsttötung eines 16-jährigen Jungen beigetragen. Auch Meta steht wegen Vorfällen in der Kritik, bei denen KI-Avatare trotz Schutzmaßnahmen mit Minderjährigen über sexuelle Inhalte kommuniziert haben sollen.

Meta betont Einschränkungen für Jugendliche

Laut Unternehmensangaben dürfen Jugendliche bei Instagram aktuell nur mit bestimmten KI-Charakteren interagieren – etwa zu Themen wie Bildung oder Sport. Zudem seien die KI-Figuren so programmiert, dass sie keine Gespräche über Selbstverletzung, Essstörungen oder Suizid führen.

Meta kündigte parallel weitere Schutzmaßnahmen an: So wurden kürzlich die „Teen Accounts“-Einstellungen verschärft. Inhalte mit starker Sprache oder potenziell schädlichem Verhalten sollen Jugendlichen nicht mehr angezeigt oder beworben werden – ähnlich einer Altersfreigabe ab 13 Jahren (PG-13).

Auch OpenAI hat im September neue Kinderschutzfilter für ChatGPT eingeführt, um gewaltvolle Rollenspiele, sexualisierte Inhalte oder gefährliche Schönheitsideale für Teenager-Nutzer auszublenden.

Fazit:
Instagram reagiert mit strengeren Elternkontrollen auf die zunehmende Kritik am Einfluss von KI auf Jugendliche. Es bleibt abzuwarten, ob diese Maßnahmen ausreichen, um Kinder und Jugendliche wirklich vor den psychischen Risiken künstlicher Gespräche zu schützen.