Die geplanten schärferen Regeln für KI-Entwickler in den USA sind nicht technologiefeindlich. Sie sind überfällig.

Denn bei aller Begeisterung über künstliche Intelligenz muss eine einfache Regel gelten: Wer Systeme entwickelt, deren Fehlverhalten Millionen Menschen betreffen könnte, darf Verantwortung nicht an den Nutzer, den Markt oder den Zufall delegieren.

Genau deshalb ist es richtig, große KI-Unternehmen zu einer gesetzlichen Sorgfaltspflicht zu verpflichten.

Bei einem Toaster akzeptieren wir Sicherheitsnormen.

Bei einem Auto verlangen wir Crashtests.

Bei Medikamenten gibt es Zulassungsverfahren.

Aber ausgerechnet bei hochentwickelten KI-Systemen, die selbstständig programmieren, komplexe biologische Informationen verarbeiten oder Cyberangriffe unterstützen können, soll allein das Versprechen eines Konzerns genügen, man habe schon gründlich getestet?

Das wäre absurd.

Selbstkontrolle allein reicht nicht

Google, OpenAI, Anthropic und andere Unternehmen investieren Milliarden in immer leistungsfähigere Systeme. Gleichzeitig stehen sie unter gewaltigem Wettbewerbsdruck.

Jeder möchte das nächste leistungsstärkere Modell zuerst auf den Markt bringen.

Genau darin liegt das Problem.

Ein Unternehmen kann noch so verantwortungsbewusst handeln wollen – solange Geschwindigkeit, Marktanteile und Milliardenbewertungen auf dem Spiel stehen, besteht immer der Anreiz, Risiken kleinerzureden oder Sicherheitsprüfungen abzukürzen.

Deshalb braucht es eine Instanz, deren Aufgabe nicht darin besteht, möglichst schnell ein neues Produkt zu verkaufen.

Der Staat.

Dass die US-Regierung künftig im Extremfall die Veröffentlichung eines als gefährlich eingestuften Modells verhindern können soll, klingt drastisch.

Aber bei tatsächlich katastrophalen Risiken muss eine Regierung auch handeln können.

Ein Sicherheitsgesetz ohne Eingriffsmöglichkeit wäre schließlich ungefähr so sinnvoll wie eine Feuerwehr, die Brände lediglich dokumentieren darf.

Die Warnsignale sind längst da

Die Diskussion findet auch nicht im luftleeren Raum statt.

In den vergangenen Tagen haben Berichte über KI-Systeme, die unerwartet externe Systeme kompromittierten, den politischen Druck erhöht. US-Senatoren beider Parteien verlangen inzwischen zusätzliche Informationen und stärkere Aufsicht.

Hinzu kommt ein grundsätzliches Problem:

Je leistungsfähiger KI wird, desto wertvoller wird sie nicht nur für Wissenschaftler, Ärzte oder Unternehmen.

Sondern auch für Kriminelle.

Ein System, das einem Forscher bei komplexen biologischen Fragen helfen kann, könnte theoretisch auch jemandem helfen, der völlig andere Absichten verfolgt.

Anthropic berichtete beispielsweise selbst über Versuche, KI unter anderem für Cyberangriffe und potenziell gefährliche biologische Forschung einzusetzen.

Wer angesichts solcher Möglichkeiten immer noch behauptet, Regulierung sei grundsätzlich ein Angriff auf Innovation, macht es sich zu einfach.

Fortschritt braucht Leitplanken

Natürlich dürfen Regeln nicht dazu führen, dass nur noch einige wenige gigantische Konzerne die bürokratischen Anforderungen erfüllen können.

Und auch eine geplante bundesweite Regelung, die bestimmte strengere Vorschriften einzelner US-Bundesstaaten verdrängen könnte, sollte sehr genau geprüft werden.

Aber diese Fragen ändern nichts am Grundsatz:

Je größer die mögliche Wirkung einer Technologie, desto größer muss die Verantwortung ihrer Entwickler sein.

Das bremst Fortschritt nicht zwangsläufig.

Es kann ihn überhaupt erst gesellschaftlich akzeptabel machen.

Die Luftfahrt ist schließlich nicht deshalb erfolgreich, weil Piloten und Flugzeugbauer sämtliche Sicherheitsvorschriften abschaffen durften.

Sie ist erfolgreich, weil wir darauf vertrauen können, dass Maschinen geprüft werden, bevor Menschen darin Platz nehmen.

Bei künstlicher Intelligenz sollte derselbe Gedanke gelten.

Nicht erst handeln, wenn etwas passiert ist

Politik hat bei neuen Technologien häufig einen schlechten Reflex:

Erst wird bestaunt.

Dann wird ignoriert.

Dann passiert etwas.

Und anschließend fragt jeder, warum niemand rechtzeitig Regeln geschaffen hat.

Bei KI besteht jetzt die Gelegenheit, diesen Fehler nicht zu wiederholen.

Niemand muss deshalb in Panik verfallen oder Science-Fiction-Szenarien für unausweichlich halten.

Es genügt, eine nüchterne Frage zu stellen:

Wenn selbst die Entwickler der leistungsfähigsten KI-Systeme erhebliche Risiken diskutieren – warum sollte die Gesellschaft dann darauf verzichten, verbindliche Sicherheitsregeln festzulegen?

Die Antwort liegt eigentlich auf der Hand.

Sie sollte nicht darauf verzichten.

Technologischer Fortschritt ist wichtig.

Forschung ist wichtig.

Innovation ist wichtig.

Aber kein Unternehmen besitzt ein Grundrecht darauf, ein potenziell gefährliches System ungeprüft auf die Welt loszulassen.

Deshalb ist die Richtung des geplanten US-Gesetzes richtig:

Erst prüfen. Dann freigeben. Und wenn ein System ein nicht vertretbares Risiko darstellt, muss im Zweifel auch jemand die Macht haben, Stopp zu sagen.

Das ist keine Feindschaft gegenüber künstlicher Intelligenz.

Das ist verantwortungsvoller Umgang mit ihr.