OpenAI hat das ChatGPT-Konto des mutmaßlichen Täters eines Massakers in der kanadischen Provinz British Columbia mehr als ein halbes Jahr vor der Tat gesperrt.
Das Unternehmen erklärte, man habe im Juni 2025 ein Konto identifiziert, das Jesse Van Rootselaar gehörte. Es sei im Rahmen interner Maßnahmen zur Missbrauchserkennung überprüft worden. Dazu gehören automatisierte Systeme und manuelle Untersuchungen, um Konten zu erkennen, die möglicherweise zur Förderung von Gewalt genutzt werden.
OpenAI teilte mit, dass die Nutzung des Kontos nicht die Schwelle für eine „glaubwürdige oder unmittelbar bevorstehende Gefahr schwerer körperlicher Schäden“ erreicht habe. Daher seien die Behörden damals nicht informiert worden.
Nach dem Angriff habe das Unternehmen jedoch „proaktiv“ Kontakt mit der kanadischen Polizei aufgenommen und Informationen zum Verdächtigen bereitgestellt. Man sei in Gedanken bei allen Betroffenen der Tragödie und unterstütze die laufenden Ermittlungen.
Van Rootselaar steht im Verdacht, am 12. Februar in der ländlichen Gemeinde Tumbler Ridge acht Menschen erschossen zu haben. Es handelt sich um eine der tödlichsten Gewalttaten in der Geschichte Kanadas. Weitere 27 Menschen wurden bei dem Angriff auf die Tumbler Ridge Secondary School verletzt.
Laut einem Bericht des Wall Street Journal diskutierten etwa ein Dutzend OpenAI-Mitarbeiter intern, ob Maßnahmen über die Sperrung hinaus erforderlich seien. Einige hätten die Nutzung des KI-Tools als mögliches Indiz für reale Gewaltabsichten gewertet und dafür plädiert, die Behörden zu informieren. Die Unternehmensleitung habe sich jedoch dagegen entschieden.
OpenAI erklärte, man halte an der bestehenden Richtlinie fest, Behörden nur bei unmittelbarer Gefahr zu informieren, da eine zu weitreichende Meldung potenziell unbeabsichtigte Schäden verursachen könne. Zudem werde ChatGPT so trainiert, dass es bei erkannten Gefahrensituationen deeskalierend reagiert und Unterstützung bei illegalen oder gewalttätigen Vorhaben verweigert.
Das Unternehmen betonte, die Kriterien für Behördenmeldungen würden regelmäßig gemeinsam mit Experten überprüft. Auch dieser Fall werde ausgewertet, um mögliche Verbesserungen vorzunehmen.
Van Rootselaar wurde nach der Tat mit einer selbst zugefügten Schussverletzung tot in der Schule aufgefunden. Die Polizei teilte mit, der Verdächtige sei biologisch männlich geboren, habe sich jedoch als Frau identifiziert.
Unter den Todesopfern befanden sich nach Angaben der Polizei auch die Mutter und der Stiefbruder des Verdächtigen, die in einem örtlichen Wohnhaus tot aufgefunden wurden.
Das Motiv für die Tat ist bislang unklar.
Kommentar hinterlassen