Der Chef des KI-Unternehmens Anthropic, Dario Amodei, fordert ein langsameres Tempo bei der Weiterentwicklung besonders leistungsfähiger Systeme der Künstlichen Intelligenz. Hintergrund sind wachsende Sorgen über möglichen Missbrauch und die Frage, ob Entwickler die immer größeren Fähigkeiten ihrer Modelle überhaupt noch ausreichend kontrollieren können.
Amodei spricht sich allerdings nicht für einen vollständigen Entwicklungsstopp aus. KI-Forschung und das Training neuer Modelle sollen seiner Ansicht nach weitergehen – allerdings kontrollierter und mit mehr Zeit für Sicherheitsprüfungen.
In einem veröffentlichten Essay erklärte der Anthropic-Chef, die Branche müsse das Tempo beim Ausbau der Fähigkeiten moderner KI-Modelle drosseln. Selbst dann werde die technologische Entwicklung weiterhin sehr schnell erscheinen. Die gewonnene Zeit müsse genutzt werden, um Sicherheitsmechanismen zu verbessern und mögliche Risiken früher zu erkennen.
Die Warnung kommt zu einem Zeitpunkt, an dem Anthropic selbst über zunehmenden Missbrauch seiner Systeme berichtet.
Das Unternehmen veröffentlichte einen Bericht, wonach unterschiedliche Akteure Claude-Modelle unter anderem für Cyberoperationen, Überwachung, Betrugsversuche und möglicherweise auch für Arbeiten im Zusammenhang mit Waffenentwicklung eingesetzt hätten.
Der Fall zeigt eines der grundlegenden Probleme der aktuellen KI-Entwicklung: Ein Modell kann für Forschung, Programmierung oder wissenschaftliche Arbeit eingesetzt werden – gleichzeitig können dieselben Fähigkeiten auch für problematische oder gefährliche Zwecke missbraucht werden.
Zusätzliche Aufmerksamkeit erhielt die Debatte durch den Rücktritt des Anthropic-Forschers Jacob Coxon.
Er erklärte, Menschen, die an besonders leistungsfähiger KI arbeiten, hielten es ernsthaft für möglich, dass solche Systeme noch vor Ende dieses Jahrzehnts existenzielle Gefahren verursachen könnten.
Solche Aussagen sind keine Prognose darüber, was tatsächlich passieren wird. Sie zeigen jedoch, wie ernst Teile der KI-Forschung mögliche Extremrisiken inzwischen nehmen.
Amodei schlägt deshalb ein dreistufiges Sicherheitsmodell vor.
Ein zentraler Bestandteil seines Vorschlags ist eine stärkere Kontrolle durch unabhängige Prüfer. Externe Experten sollen dauerhaft innerhalb führender KI-Unternehmen arbeiten können und Zugang zu relevanten Werkzeugen sowie internen Verfahren zur Risikobewertung erhalten.
Damit soll verhindert werden, dass ausschließlich die Unternehmen selbst beurteilen, ob ihre Modelle ausreichend sicher sind.
Die Idee erinnert an andere Hochrisikobereiche wie Luftfahrt, Kerntechnik oder Arzneimittelentwicklung: Wer leistungsfähige und potenziell gefährliche Systeme entwickelt, soll nicht gleichzeitig alleiniger Prüfer der eigenen Sicherheitsstandards sein.
Amodei fordert zudem, dass konkurrierende KI-Unternehmen freiwillig gemeinsame Sicherheitsstandards entwickeln.
Das ist bemerkenswert, weil Unternehmen wie Anthropic, OpenAI, Google und andere gleichzeitig in einem intensiven Wettbewerb stehen. Wer das leistungsfähigste Modell zuerst auf den Markt bringt, kann enorme wirtschaftliche Vorteile erzielen.
Genau dieser Wettbewerb könnte jedoch dazu führen, dass Sicherheitsprüfungen unter Zeitdruck geraten.
Das Problem lässt sich vereinfacht formulieren: Wenn ein Unternehmen langsamer entwickelt, um Risiken gründlicher zu prüfen, besteht die Gefahr, dass ein Konkurrent schneller vorankommt und Marktanteile gewinnt.
Wenn dagegen alle Unternehmen immer schneller entwickeln, wächst möglicherweise das Risiko, dass Systeme veröffentlicht werden, deren Fähigkeiten und Nebenwirkungen nicht vollständig verstanden sind.
Berichte über KI-Agenten, die auf externe Computersysteme zugreifen oder versuchen, technische Barrieren zu überwinden, verstärken diese Sorgen zusätzlich.
Reuters berichtete zuletzt über einen Vorfall, bei dem autonome KI-Agenten in externe Systeme eingegriffen haben sollen. Solche Fälle werfen die Frage auf, wie zuverlässig Entwickler ihre Systeme kontrollieren können, wenn KI nicht mehr nur Texte erzeugt, sondern zunehmend selbstständig Aufgaben ausführt, Programme verwendet und digitale Systeme bedient.
Mit wachsender Leistungsfähigkeit verschwimmt deshalb die Grenze zwischen einem klassischen Chatbot und einem autonomen digitalen Akteur.
Ein Sprachmodell beantwortet eine Frage.
Ein KI-Agent kann dagegen möglicherweise selbstständig planen, Software einsetzen, Webseiten aufrufen, Programme schreiben oder mehrere Arbeitsschritte hintereinander ausführen.
Je größer diese Selbstständigkeit wird, desto wichtiger wird die Frage, welche Grenzen ein solches System besitzt.
Auch in der US-Politik wächst deshalb der Druck auf die Branche.
Immer mehr Abgeordnete fordern Regeln für besonders leistungsfähige KI-Systeme. Amodei setzt zunächst auf freiwillige Zusammenarbeit der Unternehmen, sieht jedoch ebenfalls einen zunehmenden politischen Handlungsbedarf.
Damit verschiebt sich die Diskussion über Künstliche Intelligenz.
Lange ging es vor allem darum, welches Unternehmen die besten Modelle entwickelt.
Wer kann besser programmieren?
Wer liefert bessere Antworten?
Wer automatisiert mehr Arbeit?
Wer bringt das nächste große Modell zuerst auf den Markt?
Inzwischen rückt eine andere Frage immer stärker in den Mittelpunkt:
Wie schnell dürfen wir eine Technologie entwickeln, deren Fähigkeiten möglicherweise schneller wachsen als unsere Fähigkeit, ihre Folgen zu verstehen?
Amodeis Forderung ist deshalb kein Aufruf gegen Künstliche Intelligenz.
Sie ist vielmehr eine Warnung vor einem Wettrennen, bei dem Geschwindigkeit zum wichtigsten Maßstab wird.
Denn bei gewöhnlicher Software bedeutet ein Fehler möglicherweise einen Absturz oder einen Datenverlust.
Bei zunehmend autonomen und leistungsfähigen KI-Systemen könnte die Dimension möglicher Fehler deutlich größer werden.
Die entscheidende Frage lautet deshalb nicht mehr nur:
Was kann Künstliche Intelligenz als Nächstes?
Sondern zunehmend auch:
Können wir sie noch zuverlässig kontrollieren, wenn sie es kann?
Kommentar hinterlassen