Nach einer Untersuchung der BBC hat TikTok mehrere Accounts entfernt, die mit KI-generierten Darstellungen schwarzer Frauen arbeiteten und Nutzer gezielt auf Seiten mit sexuellen Inhalten lenkten. Insgesamt wurden rund 20 Konten gesperrt.
Die betroffenen Profile sind Teil eines wachsenden Trends auf Plattformen wie TikTok und Instagram: Mithilfe künstlicher Intelligenz erzeugte Influencer-Figuren werden genutzt, um Aufmerksamkeit zu generieren – oft mit stark sexualisierten Darstellungen und ohne Kennzeichnung als KI-Inhalte.
Täuschung und Ausbeutung im Fokus
Recherchen der BBC gemeinsam mit unabhängigen Analysten ergaben, dass Dutzende solcher Accounts existieren. Sie zeigen digitale Figuren mit überzeichneten Körpermerkmalen, häufig mit extrem dunkler, künstlich erzeugter Hautfarbe und in freizügiger Kleidung.
Viele dieser Profile verlinken über mehrere Umwege auf kostenpflichtige Erotikseiten. Während dort teilweise auf KI-Inhalte hingewiesen wird, fehlt diese Kennzeichnung in den sozialen Netzwerken – ein klarer Verstoß gegen Plattformrichtlinien.
Zudem nutzen einige Accounts problematische Begriffe und Stereotype, etwa in Bezug auf Hautfarbe oder Beziehungen, was Kritik wegen rassistischer Darstellung ausgelöst hat.
Gestohlene Inhalte und Identitätsmissbrauch
Besonders brisant ist ein Fall, bei dem echte Inhalte einer Influencerin manipuliert wurden. Videos der malaysischen Content-Creatorin Riya Ulan wurden kopiert und mit einem KI-generierten Gesicht versehen. Die künstliche Figur übernahm Bewegungen, Kleidung und Setting – erreichte jedoch ein Vielfaches der ursprünglichen Reichweite.
„Ich war wütend“, sagte Ulan. „Nur weil meine Videos öffentlich sind, heißt das nicht, dass man sie einfach stehlen und für eigene Zwecke nutzen darf.“
Einige dieser manipulierten Inhalte wurden millionenfach angesehen. Gleichzeitig bestritten die Betreiber der Accounts teilweise, dass es sich überhaupt um KI-generierte Figuren handelt.
Kritik von Experten
Fachleute sehen in dem Trend eine neue Form digitaler Ausbeutung. Die Kombination aus Sexualisierung, rassistischen Stereotypen und fehlender Transparenz sei besonders problematisch.
„Diese Darstellungen knüpfen an eine lange Geschichte der Ausbeutung schwarzer Körper an“, erklärt eine der beteiligten Analystinnen. KI ermögliche es, solche Inhalte massenhaft und ohne soziale Konsequenzen zu produzieren.
Auch andere Stimmen warnen davor, dass reale Erfahrungen und authentische Darstellungen zunehmend durch künstliche, idealisierte Bilder verdrängt werden.
Plattformen reagieren – teilweise
TikTok erklärte, man habe Inhalte entfernt und Accounts gesperrt, die gegen die Regeln verstoßen. Das Unternehmen betonte, dass KI-generierte Inhalte gekennzeichnet werden müssen und dass die Nutzung fremder Identitäten ohne Zustimmung untersagt ist.
Meta, der Mutterkonzern von Instagram, teilte mit, die Hinweise zu prüfen. Einige der gemeldeten Accounts seien inzwischen nicht mehr aktiv.
Fazit
Der Fall zeigt, wie schnell sich problematische Inhalte durch KI verbreiten können – und wie schwer sie für Nutzer zu erkennen sind. Gleichzeitig wächst der Druck auf Plattformen, konsequenter gegen Täuschung, Missbrauch und diskriminierende Darstellungen vorzugehen.
Kommentar hinterlassen