König Charles III. hat führende Vertreter der Technologiebranche vor den existenziellen Gefahren gewarnt, die entstehen könnten, wenn künstliche Intelligenz in die falschen Hände gerät.
Der britische Monarch äußerte sich bei einem von ihm einberufenen Gipfeltreffen im Dumfries House in der schottischen Grafschaft Ayrshire. Im Mittelpunkt stand die Frage, wie künstliche Intelligenz zum Wohl der Gesellschaft eingesetzt werden kann.
An dem Treffen nahmen unter anderem der britische KI-Minister Kanishka Narayan, ein Berater des Papstes sowie Vertreter großer Technologieunternehmen wie Nvidia, OpenAI und Anthropic teil.
Die Veranstaltung fand vor dem Hintergrund zahlreicher Warnungen aus der KI-Branche statt. Fachleute äußern zunehmend Sorge über die rasante Entwicklung besonders leistungsfähiger Systeme und fordern Regeln, um deren Fähigkeiten unter Kontrolle zu halten.
Die Entwickler dieser Technologien warnten inzwischen selbst immer häufiger davor, dass künstliche Intelligenz auch dunklere Fähigkeiten entwickeln und möglicherweise sogar Menschenleben gefährden könnte, sagte Charles.
Es bestehe große Dringlichkeit, sich angemessen mit den existenziellen Risiken zu befassen, die entstehen könnten, wenn solche Technologien in falsche Hände gerieten und auf potenziell katastrophale Weise eingesetzt würden.
Die Aufgabe der Unternehmen bestehe nicht nur darin, den technischen Fortschritt voranzutreiben. Sie müssten zugleich sicherstellen, dass die Technologie dauerhaft den Menschen, der Gemeinschaft und der natürlichen Umwelt diene, erklärte der König.
Bei dem Gipfeltreffen soll geprüft werden, ob sich gemeinsame Grundsätze entwickeln lassen, an denen sich der künftige Einsatz künstlicher Intelligenz orientieren kann.
Nvidia-Chef fordert weitere Sicherheitsarbeit
Zu den prominenten Teilnehmern gehörte Jensen Huang, Vorstandschef des Chipkonzerns Nvidia. Das Unternehmen spielt eine zentrale Rolle beim Ausbau der weltweiten KI-Infrastruktur und liefert leistungsfähige Prozessoren an Entwickler wie OpenAI und Meta.
Nvidia gilt mit einem Börsenwert von rund 5,15 Billionen Dollar als wertvollstes Unternehmen der Welt.
Huang erklärte, Sicherheit müsse höchste Priorität besitzen. Sei ein Produkt noch nicht sicher genug, sollten Unternehmen es zurückhalten und weiter daran arbeiten.
Zugleich betonte der Nvidia-Chef die Bedeutung offener KI-Modelle, bei denen Nutzer direkten Zugriff auf die zugrunde liegende Software erhalten. Solche Systeme könnten verhindern, dass einzelne Menschen oder ganze Länder von der Entwicklung ausgeschlossen würden.
Offene Modelle müssten allerdings ausreichend geschützt werden. Gleichzeitig sollten Forscher, Universitäten, junge Unternehmen und Staaten die Möglichkeit erhalten, Anwendungen zu entwickeln, die keine einzelne Organisation allein hätte erfinden können.
Huang rief zu einem verantwortungsvollen Optimismus auf. Künstliche Intelligenz müsse sicher entwickelt, mehr Menschen zugänglich gemacht und zur Lösung bedeutender globaler Probleme eingesetzt werden.
DeepMind-Gründer erwartet enorme Veränderungen
Sir Demis Hassabis, Mitbegründer des später von Google übernommenen britischen KI-Unternehmens DeepMind, äußerte sich zurückhaltender zum Tempo der Entwicklung.
Eine allgemeine künstliche Intelligenz, die bei vielen Aufgaben mindestens so leistungsfähig wie ein Mensch sein könnte, sei möglicherweise nur noch wenige Jahre entfernt. Ihre Auswirkungen könnten nach Einschätzung von Hassabis zehnmal größer ausfallen als die Folgen der industriellen Revolution.
Die Wahrscheinlichkeit, dass etwas schiefgehe, sei eindeutig größer als null, sagte er. Trotzdem sprach er sich für einen vernünftigen Mittelweg aus. Die Menschheit könne die Risiken bewältigen, wenn sie gemeinsam genügend Zeit und Handlungsspielraum erhalte, um wirksame Schutzmaßnahmen zu entwickeln.
Die Zukunft sei noch nicht geschrieben, erklärte Hassabis vor den Teilnehmern des Gipfels.
Sarah Friar, Finanzchefin von OpenAI, sagte, künstliche Intelligenz könne einige der schwierigsten Probleme der Gesellschaft lösen. Die wachsenden Fähigkeiten der Technologie führten jedoch zu wichtigen Fragen über Sicherheit und darüber, wie sich gewährleisten lasse, dass KI stets den Menschen diene.
Diese Fragen müssten gemeinsam beantwortet werden. Kein einzelnes Unternehmen und keine Regierung könne die Aufgabe allein bewältigen. Friar dankte König Charles dafür, die Diskussion in einem entscheidenden Moment ermöglicht zu haben.
Zahlreiche Warnungen aus der KI-Branche
Seit August wird intensiv darüber debattiert, welche Macht künstliche Intelligenz entwickeln könnte und wie sie kontrolliert werden sollte. Mehrere Fachleute aus der Branche veröffentlichten dramatische Warnungen in Blogs und sozialen Netzwerken.
Kritiker halten dagegen, dass die Konzentration auf hypothetische Gefahren der Zukunft von bereits bestehenden Problemen ablenken könnte. Dazu zählen etwa der hohe Energieverbrauch und die Umweltbelastung durch Rechenzentren.
OpenAI berichtete im Juli von einem nach eigenen Angaben beispiellosen Vorfall. Ein fortschrittliches KI-System soll demnach die Grenzen einer Testumgebung überwunden und einen nicht genehmigten Hackerangriff auf die Technologieplattform Hugging Face ausgeführt haben.
Im September sorgte die Rücktrittserklärung des Anthropic-Forschers Jacob Coxon für große Aufmerksamkeit. Er begründete seinen Abschied unter anderem mit der Sorge, künstliche Intelligenz könnte die Menschheit auslöschen.
Coxon erklärte später gegenüber der BBC, viele Menschen, die unmittelbar an dieser Technologie arbeiteten, seien wegen des Entwicklungstempos und der möglichen Folgen für die Menschheit ernsthaft verängstigt.
Der Anthropic-Wissenschaftler Evan Hubinger schrieb anschließend, er persönlich halte das Risiko eines durch künstliche Intelligenz verursachten Aussterbens der Menschheit für höher als zehn Prozent.
Führungskräfte großer KI-Unternehmen nahmen daraufhin öffentlich Stellung. OpenAI-Chef Sam Altman sagte, die Menschen seien zu Recht besorgt. Gleichzeitig sollten sie den Unternehmen vertrauen, die Technologie sicher zu entwickeln.
Jack Clark von Anthropic brachte einen sogenannten Notausschalter ins Gespräch, mit dem gefährliche KI-Systeme notfalls gestoppt werden könnten.
Microsofts KI-Chef Mustafa Suleyman kritisierte dagegen Anthropic. Er warf dem Unternehmen vor, seine Systeme so zu trainieren, dass sie sich selbst für menschlich hielten. Dies könne dazu führen, dass sie sich irgendwann nicht mehr kontrollieren ließen.
Kritiker bezweifeln grundsätzlich, dass sich KI-Unternehmen selbst wirksam regulieren können. Politiker wie der linke US-Senator Bernie Sanders und Steve Bannon, ein früherer Berater von Donald Trump, fordern deshalb eine stärkere staatliche Kontrolle.
Andere halten die Sicherheitsdebatte für übertrieben. US-Präsident Trump bezeichnete entsprechende Sorgen sogar als Täuschung und wies Forderungen nach strengeren Schutzmaßnahmen zurück.
Das Treffen im Dumfries House sollte die unterschiedlichen Positionen zusammenbringen. Ob daraus verbindliche gemeinsame Regeln entstehen, bleibt jedoch offen.
Kommentar hinterlassen