Indonesien und Malaysia haben den KI-Chatbot Grok, der zum sozialen Netzwerk X gehört, gesperrt. Es handelt sich um die ersten Staaten weltweit, die diesen Schritt gehen. Hintergrund ist die Verbreitung manipulierter, sexualisierter Bilder, die mithilfe der Software erzeugt wurden – darunter auch Darstellungen von Frauen und Minderjährigen.
Nach Angaben der indonesischen Digitalministerin Meutya Hafid soll die Sperre dazu dienen, „Frauen, Kinder und die Öffentlichkeit vor den Risiken gefälschter pornografischer Inhalte zu schützen, die durch KI-Technologien erzeugt werden“. Malaysia folgte kurz darauf mit einer vorübergehenden Blockade. Die dortigen Behörden begründeten den Schritt mit dem wiederholten Missbrauch der Software zur Erstellung obszöner, sexuell expliziter und nicht einvernehmlicher Bildmanipulationen, einschließlich Darstellungen von Minderjährigen.
Beide Länder haben strenge Anti-Pornografie-Gesetze und gehören zu den Staaten mit überwiegend muslimischer Bevölkerung.
Grok ist ein KI-Tool des von Elon Musk gegründeten Unternehmens xAI und in die Plattform X integriert. In den vergangenen Monaten hatte sich ein Trend verbreitet, bei dem Nutzer das System aufforderten, Fotos zu manipulieren und Personen digital zu „entkleiden“ oder in sexualisierte Szenen zu versetzen. Diese Inhalte wurden vielfach weiterverbreitet und lösten international Kritik aus.
Eine Untersuchung der europäischen Organisation AI Forensics analysierte zehntausende Bildgenerierungen und Nutzeranfragen. Das Ergebnis: Ein erheblicher Teil der erzeugten Inhalte zeigte Menschen in stark sexualisierter Darstellung, häufig in Unterwäsche oder Bademode.
Auch Behörden in Großbritannien, der Europäischen Union und Indien haben inzwischen Bedenken hinsichtlich der Sicherheitsmechanismen von Grok geäußert. In Großbritannien leitete die Medienaufsicht Ofcom ein formelles Verfahren gegen X ein, um zu prüfen, ob gesetzliche Pflichten zum Schutz vor illegalen Inhalten verletzt wurden. Bei Verstößen drohen hohe Geldstrafen.
xAI erklärte zuvor, man gehe gegen missbräuchliche Nutzung vor, etwa durch Kontosperrungen und Zusammenarbeit mit Behörden. Kritiker bemängeln jedoch, dass bestehende Einschränkungen bislang nicht ausreichen. Einige Funktionen wurden zuletzt auf zahlende Nutzer begrenzt, während andere Zugangswege weiterhin offen bleiben.
Eine Stellungnahme von xAI zu den Sperren in Indonesien und Malaysia lag zunächst nicht vor.
Kommentar hinterlassen