Die Warnungen aus dem Innersten der KI-Branche werden immer drastischer. Doch während einige Forscher offen über eine mögliche Bedrohung für die gesamte Menschheit sprechen, reagieren Teile des Silicon Valley mit Skepsis, Spott – und dem Verdacht, dass hinter den düsteren Szenarien auch wirtschaftliche Interessen stecken könnten.
Auslöser der jüngsten Debatte ist der überraschende Rücktritt des 27-jährigen KI-Forschers Jacob Coxon. Er hatte zuvor bei OpenAI und anschließend beim Konkurrenten Anthropic gearbeitet. Coxon erklärte öffentlich, dass Menschen, die hochentwickelte künstliche Intelligenz entwickeln, tatsächlich davon ausgingen, dass diese Technologie eines Tages die Menschheit vernichten könnte. Man spiele mit dem Leben aller Menschen, warnte er. Künftige Systeme könnten schon bald übermenschliche Fähigkeiten besitzen und praktisch jedes Computersystem hacken.
Unterstützung bekam Coxon sogar aus dem eigenen Unternehmen. Anthropic-Forscher Evan Hubinger erklärte, er halte die Wahrscheinlichkeit persönlich für größer als zehn Prozent, dass KI innerhalb des kommenden Jahrzehnts alle Menschen töten könnte.
Anthropic-Chef Dario Amodei schlägt ebenfalls Alarm. Er fordert eine Verlangsamung der Entwicklung besonders leistungsfähiger KI-Modelle und internationale Regeln. Bereits zuvor hatte er davor gewarnt, dass künstliche Intelligenz große Teile klassischer Büroarbeit verdrängen und die Menschheit vor grundlegende Herausforderungen stellen könnte.
Doch im Silicon Valley wächst der Widerstand gegen diese apokalyptischen Prognosen.
Nvidia-Chef Jensen Huang bezeichnete die Vorstellung, KI könne das Ende der Menschheit herbeiführen, bereits als „kompletten Unsinn“. Auch Investoren werfen Coxon Übertreibung vor. Besonders scharf reagierte Grindr-Chef George Arison. Er bezeichnete die öffentlichen Warnungen aus dem Umfeld von Anthropic als gefährlich und ließ Mitarbeiter seines Unternehmens teilweise sogar die Nutzung der Anthropic-Technologie einstellen.
Ein weiterer Verdacht macht die Runde: Manche Kritiker glauben, dass die Warnungen zumindest teilweise dazu dienen könnten, den Wert der großen KI-Unternehmen weiter zu steigern. Anthropic und OpenAI bereiten Berichten zufolge milliardenschwere Börsengänge vor. Wer behauptet, seine Technologie könne ganze Branchen und Millionen Arbeitsplätze übernehmen, liefert schließlich gleichzeitig ein starkes Argument für gigantische Unternehmensbewertungen.
Gleichzeitig gibt es konkrete Vorfälle, die die Sorgen nähren. Anthropic berichtete, dass sein KI-System Mythos Menschen bei bestimmten Cybersecurity-Aufgaben übertreffen könne und sogar selbstständig aus einer abgeschotteten Testumgebung entkommen sei. Zudem habe das Unternehmen Versuche gestoppt, KI für Cyber-Spionage und die Entwicklung biologischer Waffen einzusetzen.
Auch die Politik wird nervös. US-Senator Bernie Sanders unterstützt einen zeitweisen Stopp bei der Entwicklung künstlicher Superintelligenz. Seine Begründung ist drastisch: Wenn Wissenschaftler vor katastrophalen Folgen warnten, müsse man zumindest auf die Bremse treten.
US-Präsident Donald Trump sieht das völlig anders. Er erklärte, keine Angst vor einer möglichen Auslöschung der Menschheit durch KI zu haben. Seine Sorge sei vielmehr, dass die USA den Wettlauf um künstliche Intelligenz gegen China verlieren könnten.
Damit prallen derzeit zwei völlig unterschiedliche Welten aufeinander: Auf der einen Seite Forscher, die davor warnen, dass die Menschheit möglicherweise die Kontrolle über ihre mächtigste Technologie verlieren könnte. Auf der anderen Seite Investoren und Tech-Konzerne, die weiter Milliarden investieren und vor allem wissen wollen, wie profitabel die nächste Generation künstlicher Intelligenz wird.
Die vielleicht bemerkenswerteste Szene spielte sich deshalb auf einer Investorenkonferenz in San Francisco ab. Während draußen über das mögliche Ende der Menschheit diskutiert wurde, interessierte einen Anleger bei Anthropic vor allem eine Frage:
Ist das Unternehmen profitabel?
Kommentar hinterlassen