Die KI-Branche schafft es derzeit zuverlässig, erst neue Risiken in die Welt zu setzen – und sich anschließend dafür feiern zu lassen, dass man ausgewählten Konzernen großzügig ein Erste-Hilfe-Set reicht.
Genau das passiert jetzt beim US-KI-Unternehmen Anthropic.
Der ChatGPT-Konkurrent hat mit „Claude Mythos Preview“ ein neues KI-Modell vorgestellt, das nach eigenen Angaben so leistungsfähig im Cyberbereich ist, dass es vorerst nicht öffentlich freigegeben wird. Der Grund: Das System könnte Hackern, Cyberkriminellen und Geheimdiensten helfen, Schwachstellen in Software schneller und in größerem Stil auszunutzen als je zuvor.
Oder auf Deutsch:
Anthropic hat offenbar eine digitale Brechstange gebaut, die so effektiv ist, dass man sie der Allgemeinheit lieber noch nicht in die Hand drücken möchte.
Stattdessen dürfen jetzt erst einmal die ganz Großen ran.
Apple, Microsoft, Google & Co. bekommen den KI-Türöffner zuerst
Anthropic will sein neues Modell zunächst nur ausgewählten Großkonzernen und Cybersecurity-Firmen zur Verfügung stellen. Darunter:
- Amazon
- Apple
- Cisco
- JPMorgan Chase
- Microsoft
- Broadcom
- Nvidia
- CrowdStrike
- Palo Alto Networks
- sowie die Linux Foundation
Die offizielle Begründung klingt verantwortungsvoll:
Diese Unternehmen sollen Mythos nutzen, um
- Software-Schwachstellen zu finden,
- Sicherheitslücken zu schließen,
- Produkte gegen Angriffe zu testen,
- und digitale Abwehrsysteme zu verbessern.
Klingt vernünftig.
Wäre da nicht die kleine Randnotiz, die den eigentlichen Kern der Geschichte offenlegt:
Anthropic hält sein eigenes Modell für so missbrauchsanfällig, dass man es der Öffentlichkeit derzeit nicht zumuten will.
Die KI, die Hunderte Hacker alt aussehen lassen könnte
Laut Anthropic und mehreren Experten liegt das Problem nicht in irgendeinem theoretischen Zukunftsszenario.
Sondern im Hier und Jetzt.
Ein einzelner KI-Agent könnte laut Fachleuten:
- automatisch nach Schwachstellen suchen,
- Systeme in großem Stil scannen,
- Sicherheitslücken identifizieren,
- und diese womöglich schneller und hartnäckiger ausnutzen
als Hunderte menschliche Hacker.
Das ist kein kleines Upgrade.
Das ist ein echter Paradigmenwechsel.
Bisher war Cyberkriminalität oft noch eine Frage von:
- Know-how,
- Zeit,
- Ressourcen,
- Personal.
Mit solchen Modellen droht daraus zu werden:
Skalierte Angriffskriminalität auf Knopfdruck
Und genau deshalb sagt Anthropic selbst erstaunlich offen:
Man habe sich nicht wohl dabei gefühlt, das Modell allgemein freizugeben.
Das ist bemerkenswert ehrlich.
Und gleichzeitig ziemlich alarmierend.
Denn wenn selbst der Hersteller sagt:
„Dafür haben wir noch nicht die richtigen Schutzmechanismen“
… dann darf man sich schon fragen, warum die Branche trotzdem weiter Vollgas gibt.
Erst die Waffe bauen, dann hektisch den Schutzhelm verteilen
Die offizielle Strategie lautet nun:
- Erst große Tech-Konzerne und Sicherheitsfirmen ausrüsten
- Dann mit deren Hilfe Schwachstellen schließen
- Dann irgendwann vielleicht breiter freigeben
Das klingt nach „Defense first“.
Man könnte es aber auch so formulieren:
Die Industrie baut gerade die nächste Generation digitaler Einbruchswerkzeuge – und hofft, dass die Türhersteller schnell genug nachrüsten.
Anthropic argumentiert, man wolle damit das Spielfeld zwischen Angreifern und Verteidigern ausgleichen.
Das Problem ist nur:
- Angreifer schlafen nicht
- Angreifer haben oft weniger regulatorische Hemmungen
- Angreifer brauchen keine Presseabteilung
- und Angreifer lesen solche Meldungen mit glänzenden Augen
Denn die unbequeme Wahrheit ist:
Wenn eine KI tausende unbekannte Schwachstellen finden kann, dann ist es nur eine Frage der Zeit, bis ähnliche Fähigkeiten nicht nur in den Händen „verantwortungsvoller Partner“ landen.
Tausende Sicherheitslücken gefunden – angeblich
Anthropic behauptet, Mythos habe in den vergangenen Wochen bereits:
„Tausende“ bislang unbekannte Software-Schwachstellen entdeckt
Das wäre ein spektakulärer Befund.
Allerdings:
- Eine unabhängige Verifizierung liegt bislang nicht vor
- CNN konnte diese Zahl nicht unmittelbar bestätigen
- und in der KI-Branche gehört maßlose Selbstvermarktung inzwischen leider fast zum Pflichtprogramm
Trotzdem bleibt der Punkt brisant:
Wenn die Aussage auch nur annähernd stimmt, dann reden wir nicht über ein nettes Hilfswerkzeug.
Dann reden wir über ein System, das menschliche Sicherheitsforscher bei der Suche nach Schwachstellen massiv überholen könnte.
Und genau solche Schwachstellen sind Gold wert für:
- Geheimdienste
- staatliche Akteure
- Cyberkriminelle
- Ransomware-Banden
- Industriespione
Washington ist nervös – Silicon Valley natürlich auch
Anthropic hat nach eigenen Angaben bereits hochrangige US-Regierungsvertreter über die offensiven und defensiven Fähigkeiten von Mythos informiert.
Das allein sagt schon viel.
Denn wenn ein KI-Unternehmen der US-Regierung erklärt, was sein Modell alles im Cyberbereich kann – offensiv wie defensiv –, dann ist klar:
Hier geht es längst nicht mehr nur um IT-Sicherheit, sondern um ein sicherheitspolitisches Thema ersten Ranges.
Washington und das Silicon Valley wissen offenbar sehr genau:
- Wer diese Systeme zuerst kontrolliert, gewinnt einen massiven Vorsprung
- Wer sie falsch freigibt, riskiert eine neue Welle automatisierter Cyberangriffe
- und wer zu spät reagiert, bekommt digitale Verwundbarkeit in industriellem Maßstab
Die Branche weiß längst: Verteidiger hinken hinterher
Besonders entlarvend ist ein Satz aus dem Artikel:
Verteidiger verfügen bislang nicht im selben Ausmaß über KI-Fähigkeiten wie Angreifer.
Das ist der eigentliche Kern des Problems.
Denn die schöne neue KI-Welt wird in der Praxis oft so verkauft:
- Alle profitieren
- Alles wird effizienter
- Alles wird sicherer
- Innovation bringt Fortschritt
In der Realität sieht es oft eher so aus:
- Angreifer nutzen neue Werkzeuge zuerst aggressiv
- Verteidiger müssen nachrüsten
- Unternehmen müssen investieren
- Bürger und Kunden tragen das Risiko
- und Tech-Konzerne erklären danach, warum man jetzt „dringend Schutzmaßnahmen“ braucht
Ein Muster, das man inzwischen auswendig kennt.
Kommentar von diebewertung
Anthropic liefert mit „Mythos“ ein Lehrstück darüber, wie die KI-Industrie inzwischen funktioniert: Erst baut man ein Werkzeug, das nach Einschätzung des eigenen Herstellers Hackern, Spionen und Cyberkriminellen einen massiven Vorsprung verschaffen könnte – und dann verkauft man es als verantwortungsvollen Schritt, dass man es vorerst nur an Apple, Microsoft, Google und andere Tech-Giganten verteilt. Das mag kurzfristig sinnvoll sein, ändert aber nichts am Grundproblem: Die Branche erschafft Systeme, deren Missbrauchspotenzial so gewaltig ist, dass selbst die Entwickler kalte Füße bekommen. Wenn ein Unternehmen offen sagt, sein Modell könne Cyberangriffe drastisch beschleunigen und sei deshalb noch nicht reif für die Öffentlichkeit, dann ist das nicht nur ein PR-Hinweis – dann ist das eine Warnung. Und zwar eine ziemlich laute.
Fazit
Anthropic versucht mit seinem neuen Modell „Mythos“ offenbar, den Verteidigern im Cyberraum einen Vorsprung zu verschaffen.
Das klingt vernünftig.
Aber es offenbart zugleich ein beunruhigendes Grundproblem:
Die KI-Industrie entwickelt Werkzeuge mit so gewaltigem Angriffspotenzial, dass sie selbst vor der öffentlichen Freigabe zurückschreckt.
Dass nun ausgerechnet die größten Konzerne der Welt zuerst Zugriff bekommen, mag strategisch nachvollziehbar sein.
Es zeigt aber auch:
- Die nächste Eskalationsstufe im Cyberkrieg ist längst da
- Die Technologie ist weiter als die Schutzmechanismen
- Und die Branche spielt wieder einmal Feuerwehr, nachdem sie selbst am Benzinkanister stand
Oder noch einfacher im diebewertung-Stil:
Kommentar hinterlassen