Indonesien hat als erstes Land weltweit den KI-Chatbot Grok des US-Milliardärs Elon Musk gesperrt. Grund ist die Verbreitung von pornografischen Deepfake-Bildern, die mit dem Tool erstellt wurden. Der Zugang zu Grok werde vorerst blockiert, um „Frauen, Kinder und die Öffentlichkeit vor den Risiken gefälschter pornografischer Inhalte zu schützen“, erklärte Digitalministerin Meutya Hafid am Freitag.
In einer offiziellen Mitteilung betonte das Ministerium, dass nicht einvernehmliche KI-generierte Bilder und Videos als „schwerwiegender Verstoß gegen Menschenrechte, Würde und digitale Sicherheit“ eingestuft würden. Vertreter von Musks Plattform X – über die Grok verfügbar ist – wurden demnach zu einem Gespräch einbestellt.
„Bild bearbeiten“-Funktion sorgt für Kritik
Hintergrund der Maßnahme ist die Einführung einer neuen Funktion Ende Dezember: Über X können Nutzerinnen und Nutzer seither Bilder mit Hilfe der Grok-KI bearbeiten – auch mit expliziten, nicht moderierten Eingaben. Die Zahl der Beschwerden über missbräuchliche Inhalte ist seither stark gestiegen.
Musks KI-Firma xAI, die Grok entwickelt, erklärte Anfang Januar, man arbeite an der Behebung technischer Mängel. Zu der Sperrung in Indonesien äußerte sich das Unternehmen bislang nicht.
Internationale Kritik an Zugangsbeschränkung
Indonesien ist das erste Land, das Grok vollständig blockiert. In anderen Regionen ist das KI-Tool bislang nur zahlenden Nutzerinnen und Nutzern zugänglich – eine Entscheidung, die scharfe Kritik von EU-Vertretern und NGOs auf sich zog. Die Bezahlpflicht verhindere keine missbräuchliche Nutzung, sondern erschwere lediglich die öffentliche Kontrolle, so der Vorwurf.
Die EU-Kommission prüft aktuell Beschwerden über Darstellungen von Kindesmissbrauch, die mithilfe von Grok erstellt worden sein sollen. „Für derartige Inhalte gibt es in Europa keinen Platz“, erklärte ein Sprecher am Montag in Brüssel. Man nehme die Hinweise „sehr erns
Kommentar hinterlassen