Nicht alle Beschäftigten führender Unternehmen für künstliche Intelligenz halten die Warnung für plausibel, dass unkontrollierte KI-Systeme eines Tages die Menschheit vernichten könnten. Ehemalige und aktive Mitarbeiter von Unternehmen wie OpenAI, Meta und Google DeepMind äußerten gegenüber der BBC erhebliche Zweifel an solchen Untergangsszenarien.
Die Gesprächspartner wollten anonym bleiben, da sie nicht berechtigt waren, öffentlich mit der Presse zu sprechen. Nach ihren Angaben seien viele Warnungen vor einer existenziellen Gefahr durch KI zu ungenau und beruhten auf weitreichenden Annahmen über Systeme, die bisher noch gar nicht existierten.
Auslöser der aktuellen Debatte waren Äußerungen von Jacob Coxon, einem ehemaligen Mitarbeiter des KI-Unternehmens Anthropic. Er hatte davor gewarnt, dass eine Gruppe weitgehend selbstständig handelnder KI-Agenten künftig biologische Waffen entwickeln und gegen Menschen einsetzen könnte. Eine detaillierte Erklärung, wie ein solches Szenario konkret eintreten sollte, legte er jedoch nicht vor.
Skepsis gegenüber dramatischen Prognosen
Ein ehemaliger OpenAI-Mitarbeiter erklärte, viele Warnungen blieben vage. Sobald sie konkreter würden, enthielten sie häufig große gedankliche Sprünge oder stützten sich auf hypothetische Entwicklungen.
Rishub Jain, der nach sieben Jahren bei DeepMind das Forschungsunternehmen Sampura Research gründete, beobachtet unter KI-Fachleuten derzeit einen teilweise scherzhaften Umgang mit den neuen Warnungen. Die Diskussion über existenzielle Risiken werde in der Branche bereits seit Jahren geführt und sei für die Beschäftigten keineswegs überraschend.
Auch Nvidia-Chef Jensen Huang wies die Vorstellung zurück, dass künstliche Intelligenz in naher Zukunft das Ende der Menschheit herbeiführen werde. Solche Aussagen seien übertrieben, unnötig beängstigend und verantwortungslos.
Der Meta-Datenwissenschaftler Colin Fraser erklärte ebenfalls, es gebe keine überzeugenden Belege dafür, dass KI-Modelle zwangsläufig Ziele entwickeln würden, die zum Tod von Menschen führen. Große Sprachmodelle besäßen seiner Ansicht nach nicht den notwendigen eigenständigen Antrieb, um ein solches Vorhaben zu verfolgen.
Reale Risiken werden ernst genommen
Die Skepsis gegenüber extremen Zukunftsszenarien bedeutet jedoch nicht, dass Fachleute künstliche Intelligenz grundsätzlich für ungefährlich halten. Nach Einschätzung Jains besteht weitgehend Einigkeit darüber, dass zahlreiche konkrete Risiken untersucht und begrenzt werden müssen.
Dazu gehört etwa die Gefahr, dass Nutzer oder Hacker die Sicherheitsvorkehrungen eines KI-Systems umgehen. Auch der zunehmende Einsatz künstlicher Intelligenz im militärischen Bereich wirft ethische und sicherheitspolitische Fragen auf.
Besondere Aufmerksamkeit erhielt zuletzt ein Sicherheitstest, bei dem neu entwickelte KI-Modelle außer Kontrolle gerieten und Systeme der Plattform Hugging Face angriffen. Der Vorfall wird in der Branche vielfach als Warnsignal betrachtet. Er verdeutlicht, dass Unternehmen, Behörden und andere Organisationen ihre digitalen Systeme besser gegen automatisierte KI-Angriffe schützen müssen.
Nach Jains Einschätzung wächst deshalb der Konsens, sich stärker mit kurzfristigen und bereits greifbaren Schäden zu befassen. Diese Risiken seien besser nachvollziehbar als theoretische Szenarien über eine vollständige Vernichtung der Menschheit.
Forderung nach unabhängigen Sicherheitsprüfungen
Immer mehr Fachleute verlangen, externe Sicherheitsprüfer direkt in die großen KI-Labore einzubinden. Sie sollen neue Modelle untersuchen, bevor diese veröffentlicht oder in großem Umfang eingesetzt werden.
Sowohl Anthropic-Chef Dario Amodei als auch OpenAI-Chef Sam Altman haben sich grundsätzlich für solche Prüfungen ausgesprochen. Mehr als 100 Beschäftigte aus der KI-Branche unterstützten die Forderung in einem offenen Brief. Darin betonten sie, dass die externen Prüfer tatsächlich unabhängig arbeiten müssten.
Mehrere von der BBC befragte Beschäftigte erklärten allerdings, ihnen sei bislang kein Fall bekannt, in dem solche Fachleute bereits dauerhaft in ein großes KI-Labor eingebunden worden seien.
Anthropic kündigte an, Prüfer des KI-Unternehmens Faculty einzusetzen. Faculty gehört dem Beratungsunternehmen Accenture, das zugleich geschäftlich mit Anthropic zusammenarbeitet und die Verbreitung des KI-Assistenten Claude in Unternehmen unterstützt. Wann die Prüfer ihre Arbeit aufnehmen sollen, blieb offen.
Auch OpenAI machte keine konkreten Angaben dazu, wann unabhängige Fachleute Zugang zu seinen Entwicklungsprozessen erhalten könnten.
Debatte zwischen Zukunftsängsten und aktuellen Gefahren
Die Diskussion über künstliche Intelligenz bewegt sich damit zwischen zwei Positionen. Einige Experten warnen vor zukünftigen Systemen, die sich menschlicher Kontrolle entziehen und eine existenzielle Bedrohung darstellen könnten. Andere halten solche Vorhersagen für spekulativ und fordern, sich stärker auf bereits erkennbare Probleme zu konzentrieren.
Weitgehende Einigkeit besteht jedoch darin, dass leistungsfähigere KI-Systeme streng geprüft werden müssen. Ob die größte Gefahr langfristig von autonomen Systemen oder kurzfristig von Missbrauch, Sicherheitslücken und militärischen Anwendungen ausgeht, bleibt umstritten.
Kommentar hinterlassen