Die Cloud-Sparte von Amazon, Amazon Web Services (AWS), soll im vergangenen Jahr mindestens zwei interne Ausfälle erlebt haben, die durch eigene KI-Tools verursacht wurden. Das berichtet die Financial Times. Die Vorfälle werfen Fragen zur wachsenden Rolle künstlicher Intelligenz im Unternehmen auf – insbesondere vor dem Hintergrund umfangreicher Stellenstreichungen.
Demnach kam es im Dezember zu einer rund 13-stündigen Störung, nachdem ein KI-Agent namens „Kiro“ eigenständig Teile seiner Umgebung gelöscht und anschließend neu erstellt hatte. AWS betreibt zentrale Infrastruktur für große Teile des Internets und war im vergangenen Jahr mehrfach von Ausfällen betroffen. Bereits im Oktober hatte eine Störung zahlreiche Websites zeitweise lahmgelegt und eine Debatte über die starke Abhängigkeit vieler Dienste von wenigen Großanbietern ausgelöst.
Amazon bestätigte gegenüber Medien, dass es einen Vorfall gegeben habe, sprach jedoch von einem „Benutzerfehler“ und nicht von einem Fehler der KI. Falsch konfigurierte Zugriffsrechte hätten zu der Störung geführt. Man sehe keine Hinweise darauf, dass KI-Tools fehleranfälliger seien als menschliche Ingenieure. Zudem habe lediglich ein begrenzter Dienst – ein Kostenvisualisierungstool in Teilen Chinas – zeitweise nicht funktioniert. Zentrale Cloud-Dienste wie Rechenleistung, Speicher oder Datenbanken seien nicht betroffen gewesen.
Kritiker äußern Zweifel an dieser Darstellung. Sicherheitsexperten weisen darauf hin, dass KI-Agenten oft in begrenzten Umgebungen agieren und nicht das gesamte Systemumfeld oder die wirtschaftlichen Folgen ihrer Entscheidungen überblicken können. Anders als bei manuellen Eingaben durch Menschen könnten automatisierte Prozesse schneller weitreichende Änderungen auslösen, bevor Fehler bemerkt werden.
Die Berichte kommen zu einem sensiblen Zeitpunkt: Amazon hatte im Januar den Abbau von 16.000 Stellen angekündigt, nachdem bereits im Herbst 14.000 Jobs gestrichen worden waren. Konzernchef Andy Jassy betonte zwar, die Kürzungen dienten der Unternehmenskultur und nicht der direkten Ersetzung durch KI. Gleichzeitig hatte er in der Vergangenheit erklärt, Effizienzgewinne durch künstliche Intelligenz würden langfristig den Personalbedarf senken.
Nach eigenen Angaben hat Amazon nach den Vorfällen zusätzliche Sicherheitsmechanismen eingeführt, darunter verpflichtende Vier-Augen-Prüfungen bei Produktionszugriffen. KI-Tools wie „Kiro“ müssten zudem ausdrücklich konfiguriert werden und würden standardmäßig vor eigenständigen Aktionen eine Genehmigung anfordern.
Kommentar hinterlassen