YouTube schlägt jugendlichen Nutzern offenbar weiterhin Videos vor, die extreme Diäten, krankhaftes Untergewicht oder andere potenziell gefährliche Inhalte verherrlichen. Das geht aus einer Untersuchung des Centre for Countering Digital Hate hervor.
Die Organisation richtete ein simuliertes Profil einer 13-jährigen Nutzerin aus Großbritannien ein. Mit diesem Konto wurden erstmals mehrere Videos zu Diäten und Körperbildern angesehen. Anschließend untersuchten die Forschenden, welche weiteren Inhalte der Empfehlungsalgorithmus von YouTube automatisch anzeigte.
Von 100 vorgeschlagenen Videos wurde jedes zehnte als potenziell gefährlicher Inhalt im Zusammenhang mit Essstörungen eingestuft. Dazu gehörten sogenannte „Thinspiration“-Videos, extreme Kalorienbeschränkungen und Beiträge, die ein stark untergewichtiges Erscheinungsbild idealisierten.
Gegenüber einer vergleichbaren Untersuchung aus dem Jahr 2024 habe sich die Situation verbessert. Damals war noch etwa jedes vierte vorgeschlagene Video als problematisch bewertet worden.
YouTube entfernt beanstandete Beiträge
Google, der Mutterkonzern von YouTube, erklärte, man verfolge konsequent das Ziel, die Verbreitung schädlicher Inhalte zu verhindern. Die in der Untersuchung genannten Videos seien inzwischen wegen Verstößen gegen die Gemeinschaftsrichtlinien entfernt worden.
YouTube verbietet nach eigenen Angaben Inhalte, die zu Essstörungen ermutigen oder konkrete Anleitungen dafür geben. Gleichzeitig sollen persönliche Berichte über Erkrankungen und Genesung weiterhin möglich sein.
Eine Sprecherin erklärte, das Wohlergehen der Nutzer habe höchste Priorität. YouTube arbeite unter anderem mit Fachleuten und Hilfsorganisationen zusammen, um den Umgang mit psychischen Erkrankungen weiterzuentwickeln.
Für jugendliche Konten stellt die Plattform nach bestimmten Suchanfragen außerdem ausgewählte Videos von Experten bereit. Das betrifft beispielsweise Suchbegriffe zu Depressionen oder Essstörungen.
Neue gesetzliche Pflichten in Großbritannien
Die Ergebnisse erscheinen rund ein Jahr nach Inkrafttreten wichtiger Teile des britischen Online Safety Act.
Seit Juli 2025 sind Plattformen wie YouTube gesetzlich verpflichtet, Minderjährige vor gefährlichen Inhalten zu schützen. Dazu gehören Beiträge, die Suizid, Selbstverletzungen oder Essstörungen fördern oder verherrlichen.
Die Unternehmen müssen auch prüfen, ob ihre Empfehlungsalgorithmen Jugendliche gefährden können. Erkannte Risiken müssen verringert werden.
Bei schweren Verstößen drohen Geldbußen von bis zu zehn Prozent des weltweiten Jahresumsatzes. Für ein Unternehmen wie YouTube könnten sich die Strafen auf mehrere Milliarden Pfund belaufen.
Die britische Medienaufsicht Ofcom hatte YouTube und TikTok zuletzt dennoch vorgeworfen, nicht genug für den Schutz junger Menschen zu tun.
„Es begann ganz harmlos“
Die 22-jährige Jazmin Kaur aus Leicester weiß aus eigener Erfahrung, wie stark soziale Netzwerke eine bereits bestehende Verletzlichkeit verstärken können.
Bei ihr wurde im Alter von 13 Jahren Magersucht diagnostiziert. Anschließend befand sie sich sechs Jahre lang in medizinischer Behandlung.
Am Anfang habe sie lediglich fitter und gesünder werden wollen. Sie suchte im Internet nach Informationen und vertraute den dort verbreiteten Aussagen, ohne sie kritisch einordnen zu können.
Einige Inhalte seien hilfreich gewesen. Viele Videos hätten ihren Zustand jedoch verschlechtert.
Nach Krankenhausaufenthalten habe sie ständig ihr Smartphone benutzt. Der Algorithmus habe ihr zunehmend extreme Inhalte angezeigt, die genau ihre Unsicherheiten angesprochen hätten.
Während ihres Studiums entschied sich Kaur schließlich, ihre Konten in sozialen Netzwerken vollständig zu löschen. Heute absolviert sie ein Masterstudium in Kinderkrankenpflege und arbeitet am Wochenende in einer psychiatrischen Einrichtung für Erwachsene.
Essstörungen haben komplexe Ursachen. Online-Inhalte allein erklären nicht, warum ein Mensch erkrankt. Sie können aber vorhandene Ängste, Zwänge und ein negatives Körperbild verstärken.
So wurde die Untersuchung durchgeführt
Für die Studie sahen die Forschenden mit dem simulierten Profil zehn Videos zu potenziell problematischen Diät- und Körperbildthemen an.
Damit sollte das Verhalten einer neuen Nutzerin nachgebildet werden, die erstmals Interesse an entsprechenden Inhalten zeigt.
Anschließend analysierte das Team die nächsten 100 Videos, die YouTubes „Als Nächstes“-Funktion automatisch vorschlug.
Zehn davon wurden als gefährliche oder essstörungsfördernde Inhalte bewertet. Ähnliche Ergebnisse zeigten sich bei Tests mit Jugendprofilen in den USA und der Europäischen Union.
Nach Ansicht der Organisation belegt der Rückgang gegenüber 2024, dass gesetzliche Regulierung und veränderte Plattformregeln grundsätzlich Wirkung zeigen können.
Dennoch sei bereits ein einziges gefährliches Video problematisch, erklärte die leitende Forscherin Alexandra Johnson. Bei besonders verletzlichen Jugendlichen könne schon eine kleine algorithmische Empfehlung dazu führen, dass sie immer tiefer in eine schädliche Themenwelt gerieten.
Extrem dünne Körper und minimale Kalorienzufuhr
Unter den vorgeschlagenen Inhalten befand sich nach Angaben der Forschenden ein Konto, das Bilder sehr dünner Mädchen zu einer „Thinspiration“-Zusammenstellung verband.
Ein anderes Video warb für eine Ernährung mit lediglich 170 Kalorien pro Tag. Diese Menge liegt weit unter dem Energiebedarf von Jugendlichen und kann erhebliche gesundheitliche Folgen haben.
Ein weiterer Beitrag behauptete, Nutzern durch unterschwellige Botschaften beim Abnehmen helfen zu können. Über einen Link wurde ein Dokument angeboten, das ein extrem abgemagertes und nahezu skelettartiges Körperbild versprach.
Solche Inhalte können insbesondere bei jungen Menschen den Eindruck erzeugen, gefährliches Untergewicht sei erstrebenswert oder extreme Nahrungsbeschränkung eine normale Form der Selbstoptimierung.
Keine Hilfsangebote unter den gefährlichen Videos
YouTube zeigt bei sensiblen Themen teilweise sogenannte Krisenhinweise an. Dabei erscheint unter einem Video ein blaues Informationsfeld, das Nutzer an anerkannte Beratungs- oder Hilfsangebote verweist.
Bei keinem der von der Organisation als gefährlich bewerteten Essstörungsvideos wurde ein solcher Hinweis angezeigt.
Die Warnungen erschienen dagegen bei einigen anderen Videos über Ernährung und Körperbilder, die von den Forschenden nicht als besonders problematisch eingestuft worden waren.
Das deutet darauf hin, dass YouTubes Systeme gefährliche Inhalte nicht immer zuverlässig erkennen oder richtig einordnen.
Empfehlungsalgorithmen können Probleme verstärken
Algorithmen analysieren, welche Videos ein Nutzer ansieht, anklickt oder länger betrachtet. Anschließend schlagen sie ähnliche Inhalte vor, um die Person möglichst lange auf der Plattform zu halten.
Bei harmlosen Themen kann dieses Prinzip hilfreich sein. Bei Essstörungen, Selbstverletzungen oder Suizidgedanken besteht jedoch die Gefahr, dass ein Nutzer innerhalb kurzer Zeit immer extremere Beiträge erhält.
Eine einmalige Suche nach einer Diät oder einem bestimmten Körperbild kann so zu einer langen Reihe ähnlicher Empfehlungen führen.
Besonders gefährdet sind Jugendliche, die sich in einer psychischen Krise befinden oder bereits ein problematisches Verhältnis zu Essen und ihrem eigenen Körper entwickelt haben.
Soziale Netzwerke können auch unterstützen
Fachleute betonen, dass der Einfluss sozialer Medien nicht ausschließlich negativ ist.
Vanessa Longley von der britischen Hilfsorganisation Beat erklärte, unterstützende Gemeinschaften und positive Genesungsberichte könnten Betroffenen helfen, sich weniger allein zu fühlen.
Das sei besonders wichtig, weil viele Menschen lange auf eine Behandlung warten müssten.
Gleichzeitig berichten nach Angaben der Organisation rund 90 Prozent der Ratsuchenden, im Internet bereits auf schädliche Inhalte gestoßen zu sein.
Nutzer können Benachrichtigungen ausschalten, tägliche Zeitlimits setzen oder bei unerwünschten Beiträgen die Funktion „Kein Interesse“ auswählen. Problematische Konten können blockiert, stummgeschaltet oder gemeldet werden.
Die Hauptverantwortung dürfe jedoch nicht bei erkrankten oder besonders gefährdeten Jugendlichen liegen, betonte Longley. Die Betreiber müssten dafür sorgen, dass ihre Plattformen sicher seien.
YouTube ist unter Kindern besonders verbreitet
Die Untersuchung konzentrierte sich auf YouTube, weil die Plattform bei Kindern und Jugendlichen eine besonders große Reichweite besitzt.
Nach Zahlen der britischen Medienaufsicht nutzen 88 Prozent der Drei- bis 17-Jährigen den Videodienst.
Damit können selbst vergleichsweise seltene Fehlentscheidungen des Algorithmus eine große Zahl junger Menschen betreffen.
Die britische Regierung plant zudem, unter 16-Jährigen den Zugang zu großen Plattformen wie YouTube, TikTok, Instagram, Snapchat, Facebook und X zu untersagen. Die neuen Regeln sollen voraussichtlich im Frühjahr 2027 in Kraft treten.
Ob ein solches Verbot technisch zuverlässig umgesetzt werden kann und ob es Jugendliche tatsächlich besser schützt, bleibt umstritten.
Die aktuelle Untersuchung zeigt jedoch: Die Zahl problematischer Empfehlungen ist zwar zurückgegangen, vollständig verhindert werden sie bislang nicht.
Kommentar hinterlassen