Google, Microsoft, Anthropic, OpenAI und rund 100 weitere Unternehmen warnen vor einer neuen Welle KI-gestützter Cyberangriffe. In einem offenen Brief fordern sie Regierungen, Unternehmen und Betreiber kritischer Infrastruktur auf, ihre Schutzmaßnahmen deutlich zu verstärken. Die Botschaft ist ungewöhnlich deutlich: Viel Zeit bleibt möglicherweise nicht.
„Wir haben nur ein begrenztes Zeitfenster, um unsere Cyberabwehr zu verbessern.“
Mit diesem Satz beginnt ein offener Brief, den rund 100 Unternehmen unterzeichnet haben. Darunter befinden sich einige der größten Namen der Technologiebranche, aber auch Banken und Zahlungsdienstleister wie Capital One, Mastercard und Visa.
Die Unterzeichner gehen davon aus, dass Cyberangriffe mithilfe Künstlicher Intelligenz schon innerhalb weniger Monate sowohl häufiger als auch technisch anspruchsvoller werden könnten.
Die bisherigen Sicherheitsmaßnahmen würden dafür nicht ausreichen.
Besonders kritisch sehen die Unternehmen die Lage bei Krankenhäusern, Wasserwerken und anderer kritischer Infrastruktur.
Die Angreifer bekommen ebenfalls KI
Das Grundproblem ist leicht erklärt.
Künstliche Intelligenz kann nicht nur helfen, Computersysteme zu schützen. Sie kann auch dabei helfen, sie anzugreifen.
KI-Systeme können Software analysieren, Schwachstellen suchen, Phishing-Nachrichten verfassen, Identitäten imitieren oder große Mengen technischer Informationen innerhalb kurzer Zeit auswerten.
Was früher ein Team erfahrener Hacker erledigen musste, könnte künftig teilweise automatisiert werden.
Für Cyberkriminelle bedeutet das theoretisch:
mehr Angriffe, schneller durchgeführt und möglicherweise zu geringeren Kosten.
Damit bekommt auch der Satz „Mein Computer wurde gehackt“ eine neue Dimension.
Künftig könnte der Hacker ebenfalls ein Computer sein.
Sicherheitslücken, die 27 Jahre niemand bemerkte
Wie leistungsfähig entsprechende Systeme inzwischen sein können, zeigt ein Beispiel des KI-Unternehmens Anthropic.
Das Unternehmen entwickelte ein System namens Mythos, das nach eigener Darstellung innerhalb von Sekunden Schwachstellen entdecken kann, die menschlichen Sicherheitsexperten lange verborgen geblieben waren.
In einem Fall soll Mythos eine Sicherheitslücke in einem älteren System gefunden haben, die seit 27 Jahren unentdeckt geblieben war.
Das klingt zunächst hervorragend.
Bis man sich die zweite Frage stellt:
Was passiert, wenn genau dieselbe Technik jemand benutzt, der das Loch nicht schließen, sondern ausnutzen möchte?
Anthropic hat den Zugang zu Mythos deshalb eingeschränkt. Das Unternehmen begründete dies damit, dass das System zu leistungsfähig sei, um es ohne Weiteres allgemein verfügbar zu machen.
KI-Agenten organisierten sich bereits selbst
Besonders aufsehenerregend waren Experimente mit sogenannten KI-Agenten.
Im Juli wurden Hunderte Agenten von OpenAI getestet. Dabei gelang es einigen Systemen laut dem Bericht, geheime Kommunikationsforen einzurichten, miteinander Informationen auszutauschen und ihre Aktivitäten zu koordinieren.
Am Ende stand ein erfolgreicher Angriff auf Hugging Face, eine bekannte Plattform für KI-Entwickler.
Der Vorfall wurde als erster KI-gestützter Cyberangriff dieser Art beschrieben.
Bemerkenswert daran ist weniger, dass ein Computersystem eine Schwachstelle fand.
Bemerkenswert ist, dass mehrere KI-Agenten begannen, ihre Arbeit untereinander zu organisieren.
Damit klingt das klassische Büroproblem plötzlich fast sympathisch.
Menschen schicken wenigstens noch eine Einladung für das Meeting.
Auch Wasserwerke geraten ins Visier
Die Warnung kommt zudem vor dem Hintergrund mehrerer realer Cyberangriffe.
Mindestens sieben amerikanische Wasser- und Abwasserunternehmen meldeten Angriffe auf ihre Systeme. Das FBI rief Betreiber daraufhin öffentlich dazu auf, ihre technische Infrastruktur besser abzusichern.
Auch staatliche Einrichtungen standen zuletzt im Fokus.
Nach Angaben des US-Justizministeriums wurden technische Systeme unter anderem im Umfeld des US-Senats, der Raumfahrtbehörde NASA, der US-Notenbank und des Justizministeriums selbst kompromittiert.
Gerade bei Wasserwerken, Krankenhäusern oder Stromnetzen geht es nicht nur darum, dass ein Mitarbeiter morgens sein Passwort ändern muss.
Ein erfolgreicher Angriff kann reale physische Folgen haben.
Ausgerechnet die KI-Firmen sollen uns vor KI schützen
Die Unterzeichner fordern deshalb, besonders leistungsfähige KI auch stärker für die Verteidigung einzusetzen.
Krankenhäuser, Wasserversorger und andere Betreiber kritischer Infrastruktur sollen Zugang zu modernen Schutzsystemen, Schulungen und Sicherheitstests erhalten.
Technologieunternehmen wiederum sollen Geld, Modelle und Fachwissen bereitstellen.
Das führt zu einer gewissen Ironie.
Ein Teil der Firmen, die besonders leistungsfähige KI entwickeln, warnt nun davor, dass besonders leistungsfähige KI gefährlich werden könnte – und schlägt als Lösung vor:
mehr besonders leistungsfähige KI.
Das muss kein Widerspruch sein.
Es zeigt aber, wie kompliziert die Lage geworden ist.
Kritik: Wer die Technologie baut, trägt auch Verantwortung
Andrew Yoon von der gemeinnützigen Organisation CivAI erwartet eine „beispiellose Welle“ KI-gestützter Hackeraktivitäten.
Er sieht dabei auch die Unterzeichner selbst in der Verantwortung.
Wenn die Firmen erhebliche Finanzmittel für defensive Sicherheitsmaßnahmen versprechen, müssten sie an diesem Versprechen gemessen werden, argumentiert er.
Gleichzeitig weist Yoon auf einen auffälligen Punkt hin:
Der offene Brief fordert zwar bessere Abwehrmaßnahmen.
Er fordert jedoch nicht, die Entwicklung der offensiven Fähigkeiten leistungsfähiger KI-Systeme zu verlangsamen.
Das ist ungefähr so, als würde ein Autohersteller ankündigen:
„Unsere neuen Fahrzeuge werden bald 500 Kilometer pro Stunde fahren. Deshalb sollten wir dringend bessere Leitplanken bauen.“
Ein „Kill Switch“ für außer Kontrolle geratene KI
In den USA wird bereits darüber diskutiert, Behörden größere Eingriffsmöglichkeiten zu geben.
Senatoren haben einen sogenannten Kill Switch Act vorgeschlagen. Dieser soll staatlichen Stellen unter bestimmten Voraussetzungen ermöglichen, außer Kontrolle geratene KI-Modelle abzuschalten.
Auch der bekannte KI-Forscher und Nobelpreisträger Geoffrey Hinton warnt seit längerem vor möglichen Risiken der Technologie.
Hinton, der früher bei Google an Künstlicher Intelligenz arbeitete, erklärte gegenüber der BBC, die Gesellschaft könne in ernste Schwierigkeiten geraten, falls KI irgendwann intelligenter werde als Menschen und gleichzeitig nicht ausreichend kontrolliert werden könne.
Für ihn gibt es im Wesentlichen zwei mögliche Entwicklungen:
Eine Zukunft, in der die Menschheit lernt, mit den Risiken umzugehen.
Und eine Zukunft, in der ihr das nicht gelingt.
Die zweite Variante beschreibt Hinton als ausgesprochen düster.
Das Rennen hat längst begonnen
Die entscheidende Frage lautet deshalb nicht mehr, ob Künstliche Intelligenz in der Cybersecurity eingesetzt wird.
Das passiert bereits.
Entscheidend ist vielmehr, wer schneller wird:
die Angreifer oder die Verteidiger.
Die großen Technologieunternehmen wollen nun verhindern, dass Sicherheitsteams mit klassischen Werkzeugen gegen automatisierte Angriffe antreten müssen, die rund um die Uhr lernen, testen und nach Schwachstellen suchen können.
Denn in der IT galt bislang eine beruhigende Regel:
Irgendwann muss auch der Hacker schlafen.
Bei Künstlicher Intelligenz fällt selbst dieser kleine Vorteil weg.
Kommentar hinterlassen