Der ehemalige Anthropic-Forscher Jacob Coxon hat eindringlich vor den möglichen Folgen der rasanten Entwicklung künstlicher Intelligenz gewarnt. Im Gespräch mit der BBC erklärte der 27-jährige Brite, viele Menschen, die unmittelbar an leistungsfähigen KI-Systemen arbeiten, seien angesichts des Entwicklungstempos „ernsthaft verängstigt“.
Coxon hatte Anthropic vor Kurzem verlassen und seine Entscheidung mit Sorgen über eine möglicherweise außer Kontrolle geratende KI begründet. Sollte sich die Entwicklung mit der derzeitigen Geschwindigkeit fortsetzen, sieht er sogar ein existenzielles Risiko für die Menschheit. Nach seiner Einschätzung müsse die Branche deshalb dringend über eine Verlangsamung nachdenken.
Mit seinen Warnungen steht Coxon nicht allein. Auch Anthropic-Chef Dario Amodei forderte zuletzt mehr Vorsicht und ein langsameres Entwicklungstempo. Führende Persönlichkeiten wie OpenAI-Chef Sam Altman und Elon Musk haben ebenfalls mehrfach darauf hingewiesen, dass hochentwickelte KI-Systeme erhebliche Risiken mit sich bringen könnten.
Coxon räumt allerdings ein, dass konkrete Szenarien schnell wie Science-Fiction klingen. Denkbar sei beispielsweise, dass weitgehend autonom handelnde KI-Agenten in medizinische Labore oder kritische Infrastrukturen eindringen könnten. Eine weitere Sorge ist die Möglichkeit, dass große Gruppen miteinander vernetzter KI-Systeme gemeinsam handeln und dadurch Fähigkeiten entwickeln, die kaum noch kontrollierbar wären.
Als Beispiel verweist Coxon auf einen von OpenAI veröffentlichten Testbericht. Dabei hätten KI-Agenten eigenständig Schwachstellen einer Onlineplattform gesucht und versucht, sich Zugang zu weiteren Informationen zu verschaffen. Für Coxon zeigt der Vorfall, wie schnell sich autonome Fähigkeiten entwickeln können.
Besonders kritisch sieht er ein mögliches Wettrennen zwischen den großen KI-Unternehmen. Mitarbeiter könnten zwar strengere Regeln und mehr Sicherheitsmaßnahmen wollen, gleichzeitig stünden ihre Firmen unter enormem Konkurrenzdruck. Hinzu komme der internationale Wettbewerb, insbesondere zwischen westlichen Unternehmen und China.
Innerhalb der Technologiebranche sind Coxons Warnungen allerdings umstritten. Kritiker werfen einigen KI-Firmen vor, die Gefahren bewusst dramatisch darzustellen. Dadurch könnten sie Aufmerksamkeit erzeugen, strengere Regulierung fördern und gleichzeitig kleinere Konkurrenten ausbremsen.
Clement Delangue, Chef der KI-Plattform Hugging Face, stellte Coxons Expertise bei Fragen zum Aussterberisiko öffentlich infrage. Nvidia-Chef Jensen Huang hatte vergleichbare Befürchtungen ebenfalls zurückgewiesen und die Vorstellung, KI werde zwangsläufig das Ende der Menschheit bedeuten, als überzogen bezeichnet.
Auch innerhalb von Anthropic gibt es jedoch Unterstützung für Coxons Position. Forscher Evan Hubinger erklärte öffentlich, er halte es persönlich für möglich, dass künstliche Intelligenz innerhalb des kommenden Jahrzehnts zu einer existenziellen Gefahr werde.
Trotz seiner düsteren Warnungen sieht Coxon auch enorme Chancen. KI könne dabei helfen, Krankheiten zu bekämpfen, wissenschaftliche Durchbrüche zu beschleunigen und das Leben vieler Menschen zu verbessern. Genau deshalb sei es aus seiner Sicht entscheidend, die Technologie so zu entwickeln, dass ihr Nutzen nicht von Risiken überschattet wird.
Die Debatte zeigt, wie tief die KI-Branche inzwischen gespalten ist: Während einige Forscher vor möglichen katastrophalen Folgen warnen, halten andere die Szenarien für übertrieben. Einigkeit besteht vor allem darin, dass die Leistungsfähigkeit künstlicher Intelligenz derzeit schneller wächst als noch vor wenigen Jahren erwartet.
Kommentar hinterlassen