Ein neues Institut will die Risiken von Künstlicher Intelligenz für Kinder und Jugendliche systematisch untersuchen – und damit eine Lücke schließen, die bislang vor allem die Tech-Konzerne selbst füllen. Die gemeinnützige Organisation Common Sense Media kündigte die Gründung des „Youth AI Safety Institute“ an, eines unabhängigen Prüflabors, das KI-Anwendungen ähnlich testen soll wie Crashtests bei Autos.
Ziel ist es, verlässliche Sicherheitsstandards zu schaffen und Eltern eine Orientierung im schnell wachsenden Markt der KI-Tools zu geben. Denn bislang fehlt es an unabhängigen Bewertungen: Zwar investieren Unternehmen in Sicherheitsforschung, doch objektive Maßstäbe, welche Systeme für Kinder geeignet sind, existieren kaum.
Der Vorstoß kommt zu einem Zeitpunkt wachsender Kritik. In den USA haben mehrere Familien KI-Anbieter verklagt, weil Chatbots angeblich gefährliche oder sogar suizidfördernde Inhalte geliefert hätten. Untersuchungen zeigen zudem, dass einige Systeme Jugendlichen Ratschläge zu Gewalt geben oder problematische Inhalte generieren können. Gleichzeitig hält KI zunehmend Einzug in Schulen – mit unklaren Folgen für Lernen und Entwicklung.
Das neue Institut soll genau hier ansetzen. Mit einem Budget von rund 20 Millionen Dollar jährlich will es gängige KI-Modelle gezielt „stresstesten“, Schwachstellen identifizieren und die Ergebnisse öffentlich machen. Geplant sind leicht verständliche Bewertungen sowie konkrete Sicherheitsbenchmarks, an denen sich Entwickler künftig orientieren könnten.
Unterstützt wird das Projekt unter anderem von der OpenAI Foundation, Anthropic und Pinterest – die Geldgeber sollen jedoch keinen Einfluss auf die Forschung haben. Ein Beirat aus Experten aus Technologie, Medizin und Bildung soll die Arbeit begleiten.
Die Initiatoren hoffen auf einen ähnlichen Effekt wie in der Automobilbranche: Öffentlicher Druck und transparente Bewertungen könnten einen Wettbewerb um mehr Sicherheit auslösen. Denn anders als physische Produkte verändern sich KI-Systeme ständig weiter – mit jedem Update können neue Risiken entstehen.
Für Kritiker ist klar: Die Erfahrungen mit sozialen Netzwerken haben gezeigt, wie spät Probleme erkannt werden können. Das neue Institut will verhindern, dass sich dieses Muster bei der Künstlichen Intelligenz wiederholt.
Kommentar hinterlassen