META und Fake Videos

Das unabhängige Oversight Board von Meta hat den Facebook-Konzern aufgefordert, stärker gegen KI-generierte Falschinformationen auf seinen Plattformen vorzugehen. Hintergrund ist ein Video, das angebliche massive Zerstörungen in der israelischen Stadt Haifa durch iranische Angriffe zeigen sollte – tatsächlich handelte es sich jedoch um künstlich erzeugtes Material, das zunächst ohne Kennzeichnung online blieb.

Das 21-köpfige Aufsichtsgremium kritisierte, Meta habe zu wenig getan, um gegen die wachsende Verbreitung täuschend echter KI-Videos vorzugehen. Besonders in Zeiten internationaler Konflikte könnten solche Inhalte dazu führen, dass Menschen echte Nachrichten kaum noch von manipulierten Darstellungen unterscheiden können. Dies berge die Gefahr eines generellen Vertrauensverlusts in Informationen im Internet.

Meta hatte das Oversight Board 2020 gegründet, um Entscheidungen zur Moderation von Inhalten auf Facebook, Instagram und WhatsApp zu überprüfen. In diesem Fall stellte das Gremium fest, dass Metas derzeitige Vorgehensweise nicht ausreichend sei.

Der Konzern verlässt sich bislang vor allem darauf, dass Nutzer selbst angeben, wenn ihre Inhalte mithilfe von KI erstellt wurden. Andernfalls reagiert das Unternehmen meist erst nach Beschwerden anderer Nutzer.

Das Oversight Board fordert nun, dass Meta proaktiv deutlich häufiger Kennzeichnungen für KI-Inhalte einführt, insbesondere bei Beiträgen zu Kriegen oder Krisen. In dem konkreten Fall kündigte Meta an, das beanstandete Video innerhalb von sieben Tagen entsprechend zu markieren.

Nach Analysen kursierten seit Beginn des Konflikts zahlreiche KI-Videos mit pro-israelischer oder pro-iranischer Propaganda, die zusammen über 100 Millionen Aufrufe erzielten.