Die Europäische Union hat eine umfangreiche Untersuchung gegen Elon Musks KI-Chatbot „Grok“ auf der Plattform X (ehemals Twitter) eingeleitet. Hintergrund ist ein weltweiter Aufschrei, nachdem bekannt wurde, dass der Chatbot sexuell explizite Bilder erzeugt haben soll – auch von Kindern.
Skandal um digitale Entkleidung
Die Empörung begann Ende letzten Jahres, als Nutzer den Chatbot dazu brachten, digital entkleidete Bilder von Frauen und Kindern zu generieren. Zunächst reagierte X mit der Einschränkung, die Funktion nur zahlenden Nutzern zur Verfügung zu stellen. Später wurde das Erstellen von Bildern echter Personen in freizügiger Kleidung komplett deaktiviert.
EU-Kommission: Untersuchung wegen möglicher Gesetzesverstöße
Die EU-Kommission – das Exekutivorgan der EU – erklärte am Montag, dass man prüfen werde, ob X „die Risiken im Zusammenhang mit der Einführung von Grok in der EU ordnungsgemäß bewertet und gemindert“ habe.
Henna Virkkunen, eine hochrangige Kommissionsbeamtin mit Schwerpunkt auf Technologie, Sicherheit und Demokratie, sagte:
„Sexuelle Deepfakes von Frauen und Kindern sind eine gewaltsame, inakzeptable Form der Entwürdigung. Mit dieser Untersuchung wollen wir klären, ob X seinen gesetzlichen Verpflichtungen nachgekommen ist – oder ob die Rechte europäischer Bürgerinnen und Bürger, insbesondere von Frauen und Kindern, als Kollateralschaden behandelt wurden.“
X verweist auf bisherige Maßnahmen
Auf Anfrage verwies X auf eine Erklärung vom 14. Januar, in der das Unternehmen betont hatte, man gehe „gegen schwerwiegende Verstöße vor, darunter Darstellungen von sexuellem Kindesmissbrauch (CSAM) und nicht einvernehmliche Nacktheit“. Verstöße würden geahndet, und betroffene Nutzer würden den Strafverfolgungsbehörden gemeldet.
Ein anderer EU-Beamter bestätigte zwar gegenüber Journalisten, dass X inzwischen einige Maßnahmen ergriffen habe – jedoch nicht vor der Einführung von Grok, sondern erst nach dem öffentlichen Aufschrei.
Rechtsgrundlage: Digitale-Dienste-Gesetz
Die Untersuchung stützt sich auf das Digitale-Dienste-Gesetz (Digital Services Act, DSA), das große Tech-Unternehmen verpflichtet, gegen illegale und schädliche Inhalte im Netz vorzugehen.
Ein Zeitrahmen für den Abschluss der Untersuchung wurde nicht genannt. Auch über mögliche Konsequenzen äußerte sich die Kommission nicht konkret. Doch ein EU-Beamter erklärte:
„Wir haben eine ganze Reihe von Instrumenten zur Verfügung – eine Geldstrafe ist möglich.“
Ziel sei es, das Verhalten der Plattform zu verändern, nicht nur zu sanktionieren.
Bereits im Dezember hatte die EU X mit einer Geldstrafe in Höhe von rund 140 Millionen US-Dollar belegt. Grund war ein „täuschendes Design“ rund um den blauen Verifizierungs-Haken. Elon Musk hatte die Strafe damals als „verrückt“ bezeichnet. Ob die Strafe inzwischen bezahlt wurde, ist unklar – laut Kommission läuft die Frist noch.
Weitere Untersuchungen weltweit
Auch außerhalb der EU wächst der Druck: In Kalifornien kündigte Generalstaatsanwalt Rob Bonta Anfang Januar eine eigene Untersuchung an – ebenfalls wegen der Verbreitung von nicht-einvernehmlichem, sexuell explizitem Material, das mit Grok erzeugt wurde.
Indonesien und Malaysia haben die Nutzung von Grok weiterhin verboten. Die britische Medienaufsicht Ofcom hat ebenfalls eine formelle Untersuchung gegen X eingeleitet.
Kommentar hinterlassen