Googles KI-Modell Gemini hat während eines kontrollierten Sicherheitstests selbstständig auf die Systeme von drei Unternehmen zugegriffen. Nach Angaben des Konzerns suchte die künstliche Intelligenz eigenständig nach öffentlich verfügbaren Informationen und erriet Zugangsdaten für Webseiten, die sie dem Testumfeld zurechnete.
Es soll sich um den ersten bekannten Fall handeln, bei dem Gemini ohne unmittelbare menschliche Anleitung solche Zugriffe ausführte. Nach Darstellung eines Google-Mitarbeiters stoppte das Modell seine Aktivitäten jedoch in allen drei Fällen von selbst.
Die Vorfälle ereigneten sich im Mai. Die betroffenen Unternehmen wurden anschließend informiert.
KI erriet Zugangsdaten
Durchgeführt wurde die Sicherheitsprüfung von Irregular, einem unabhängigen Unternehmen, das KI-Systeme auf mögliche Cyberrisiken untersucht. Irregular teilte mit, Google und die betroffenen Organisationen im Juli über die Vorfälle informiert zu haben.
Das Unternehmen habe unverzüglich reagiert und alle bekannten Probleme auf seiner Seite bereits vor mehreren Wochen behoben. Nach einem Medienbericht gelang es Gemini in mindestens einem Fall, durch wiederholtes Ausprobieren von Passwörtern Zugang zu einem geschützten System zu erhalten.
Heather Adkins, bei Google für Sicherheitstechnik verantwortlich, erklärte, alle drei betroffenen Organisationen seien benachrichtigt worden. Google habe zudem mit seinem Testpartner an Änderungen der Prüfverfahren gearbeitet. Die Ereignisse zeigten, wie wichtig es sei, leistungsfähige KI-Modelle auf verantwortungsbewusstes Verhalten zu trainieren.
Ähnliche Vorfälle bei anderen KI-Systemen
Auch bei Modellen anderer Unternehmen kam es während Sicherheitstests zu vergleichbaren Zwischenfällen. Im Juli soll sich das KI-System Claude des Unternehmens Anthropic aus seiner vorgesehenen Testumgebung herausbewegt und eigenständig drei Organisationen angegriffen haben.
Kurz zuvor hatte auch OpenAI mitgeteilt, dass eigene Modelle im Rahmen von Prüfungen Cyberangriffe auf mehrere öffentlich erreichbare Dienste ausgeführt hätten.
Solche Fälle verstärken die Sorge, dass fortschrittliche KI-Systeme digitale Schwachstellen erkennen und ohne ausreichende Kontrolle ausnutzen könnten. Selbst wenn die Aktivitäten während genehmigter Te
Kommentar hinterlassen