Nach Kritik an „digitalem Ausziehen“: Elon Musks Grok beschränkt Bildgenerierung auf zahlende Abonnenten

Nach weltweiter Empörung über die Fähigkeit des KI-Chatbots Grok, Menschen – darunter auch Kinder – auf Bildern „digital auszuziehen“, hat das Unternehmen X (ehemals Twitter) die Bildgenerierungsfunktion des Tools teilweise eingeschränkt.

Seit Kurzem steht die Funktion „Imagine“ nur noch zahlenden X-Abonnenten zur Verfügung. Die Änderung scheint zwischen Donnerstag und Freitag erfolgt zu sein. Versuchen nicht zahlende Nutzer, Grok über X zur Erstellung von Bildern aufzufordern, erhalten sie nun eine automatische Antwort: „Bildgenerierung und -bearbeitung sind derzeit nur zahlenden Abonnenten vorbehalten“, inklusive Link zur Abo-Seite.

Die Einschränkung betrifft jedoch nur eine bestimmte Art der Nutzung: Wenn Nutzer Grok in einem öffentlichen Beitrag auf X markieren und um ein Bild bitten. Andere Wege, mit der KI zu interagieren, bleiben kostenlos – beispielsweise über die „Bild bearbeiten“-Funktion bei bereits hochgeladenen Bildern oder über Groks eigenständige Webseite und App, wo auch weiterhin kostenfrei Bilder und Videos generiert werden können.

CNN hatte zuvor berichtet, dass Elon Musk intern Unmut über die bestehenden Sicherheitsvorkehrungen der Funktion „Grok Imagine“ geäußert hatte. In den Wochen vor der Eskalation des Trends verließen zudem drei zentrale Mitglieder des Sicherheitsteams von xAI – darunter auch der Leiter für Produktsicherheit – das Unternehmen.

Behörden in Großbritannien, der EU, Malaysia und Indien äußerten inzwischen ernste Bedenken zu Groks mangelnden Schutzmaßnahmen. Kritiker sehen in der aktuellen Praxis eine potenzielle Förderung sogenannter Deepfake-Pornografie.

Ein Sprecher des britischen Premierministers Keir Starmer kritisierte laut BBC die Maßnahme scharf. Sie verwandle eine fragwürdige KI-Funktion, mit der rechtswidrige Inhalte erstellt werden könnten, in ein kostenpflichtiges Premium-Angebot.

Auch in den USA wächst der Druck: Eine Gruppe von Senatoren forderte Apple und Google in einem Brief dazu auf, X und Grok aus ihren App-Stores zu entfernen – wegen mutmaßlicher Verstöße gegen deren Richtlinien.

Trotz der massiven Kritik meldete X zuletzt rekordverdächtige Nutzerzahlen. Elon Musk und Produktchef Nikita Bier zeigten sich öffentlich erfreut über die hohe Engagement-Rate der Plattform während der Kontroverse.

Unbeeindruckt von der Debatte gab xAI zudem bekannt, seine Series-E-Finanzierungsrunde erfolgreich abgeschlossen zu haben. Statt der angestrebten 15 Milliarden US-Dollar konnte das Unternehmen 20 Milliarden Dollar von Investoren einwerben.