Mehrere Whistleblower werfen großen Social-Media-Konzernen wie Meta (Facebook und Instagram) und TikTok vor, bewusst mehr problematische Inhalte zugelassen zu haben, weil interne Analysen gezeigt hätten, dass Empörung und Wut besonders viel Engagement erzeugen.
Wie die BBC berichtet, haben mehr als ein Dutzend Insider und ehemalige Mitarbeiter Einblicke in den Wettbewerb der Plattformen gegeben, der nach dem rasanten Aufstieg von TikTok begann. Demnach hätten Unternehmen teilweise Risiken für die Sicherheit der Nutzer in Kauf genommen, um im Kampf um Aufmerksamkeit und Werbeeinnahmen mithalten zu können.
Ein ehemaliger Ingenieur bei Meta erklärte, dass Führungskräfte das Team angewiesen hätten, mehr sogenannte „Borderline“-Inhalte zuzulassen. Darunter fallen Beiträge, die zwar legal, aber potenziell schädlich sind – etwa Verschwörungstheorien, Hassrede oder frauenfeindliche Inhalte. Der Grund sei wirtschaftlicher Druck gewesen, unter anderem wegen sinkender Aktienkurse und der Konkurrenz durch TikTok.
Auch bei TikTok berichten Insider von problematischen Prioritäten. Ein Mitarbeiter aus dem Bereich „Trust and Safety“ zeigte der BBC interne Systeme zur Bearbeitung von Beschwerden über Inhalte. Demnach wurden teilweise Fälle von Politikern höher priorisiert als Meldungen über Cybermobbing oder sexuelle Erpressung von Jugendlichen.
Nach Aussage des Mitarbeiters sei dies teilweise geschehen, um ein gutes Verhältnis zu Politikern und Regierungen zu erhalten, da diese über mögliche Verbote oder strengere Regulierung entscheiden könnten.
Der Wettbewerb zwischen den Plattformen verschärfte sich besonders nach der Einführung von Instagram Reels im Jahr 2020, das als direkte Antwort auf TikToks erfolgreiche Kurzvideos entstand. Laut dem ehemaligen Meta-Forscher Matt Motyl wurde das Produkt schnell eingeführt, ohne ausreichend Sicherheitsmechanismen.
Interne Untersuchungen zeigten laut Motyl, dass Kommentare unter Reels-Videos deutlich häufiger problematische Inhalte enthielten als im restlichen Instagram-Feed. Die Studie stellte unter anderem fest:
-
75 % mehr Mobbing und Belästigung,
-
19 % mehr Hassrede,
-
7 % mehr Aufrufe zu Gewalt.
Kritiker sagen, dies liege daran, dass Social-Media-Algorithmen Inhalte bevorzugen, die starke Emotionen auslösen. Laut internen Dokumenten von Meta reagieren Nutzer besonders stark auf Inhalte, die ihre moralischen Überzeugungen berühren oder Empörung hervorrufen. Der Algorithmus interpretiert diese Reaktionen als positives Signal und zeigt ähnliche Inhalte noch häufiger an.
Ein ehemaliger TikTok-Ingenieur erklärte zudem, dass Entwickler oft nur mit Datenpunkten arbeiten: Für sie sei jeder Beitrag lediglich eine Zahl im System, während Moderationsteams für die inhaltliche Kontrolle zuständig seien. Doch durch den schnellen Ausbau der Plattform und Kürzungen bei Moderationsteams könnten problematische Inhalte leichter durchrutschen.
Die Auswirkungen können erheblich sein. Ein heute 19-jähriger Nutzer berichtete der BBC, er sei als Teenager durch algorithmisch empfohlene Videos zunehmend radikalisiert worden. Die Inhalte hätten Wut geschürt und ihn zu rassistischen und frauenfeindlichen Ansichten geführt.
Meta und TikTok weisen die Vorwürfe zurück. Meta erklärte, es investiere seit Jahren massiv in Sicherheitsmaßnahmen und Jugendschutz und habe neue Funktionen für Teenagerkonten eingeführt. TikTok bezeichnete einige der Anschuldigungen als „erfunden“ und betonte, dass man Technologien einsetze, um schädliche Inhalte zu verhindern, bevor sie überhaupt gesehen werden.
Dennoch sehen Experten in den Aussagen der Whistleblower einen seltenen Einblick in die Funktionsweise der Plattformen – und in den Druck, der durch den globalen Wettbewerb um Aufmerksamkeit entstanden ist.
Kommentar hinterlassen