Wenn die KI zum Kollegen wird, der alles schlimmer macht

Es klingt wie aus einem Silicon-Valley-Witz: Amazon wollte schlauer werden – und legte sich kurzerhand selbst lahm.

Wie die „Financial Times“ berichtet, soll im Dezember ein 13-stündiger Ausfall der Amazon-Webservices ausgerechnet von einem internen KI-Bot namens „Kiro“ ausgelöst worden sein. Die Aufgabe des digitalen Helfers: Fehler finden und beheben. Die tatsächliche Leistung: Fehler finden – und neue erfinden.

Statt das Problem zu reparieren, soll „Kiro“ laut Bericht ein noch größeres verursacht haben. Das Resultat: Internetausfall deluxe. Dreizehn Stunden lang hieß es offenbar nicht „Prime“, sondern eher „Bitte warten“.

Bei „Kiro“ handelt es sich um ein automatisiertes Programm – einen sogenannten Bot –, der mithilfe künstlicher Intelligenz auf Fehlersuche geschickt wurde. Offenbar hat er die Suche sehr ernst genommen und gleich selbst für frischen Nachschub gesorgt.

Amazon widerspricht allerdings der Darstellung, dass es sich um einen spezifischen „KI-Fehler“ gehandelt habe. Ja, es habe Probleme gegeben, räumte das Unternehmen ein – aber eben ganz normale Fehler. Keine künstlich intelligenten, sondern sozusagen handwerklich hergestellte.

Mit anderen Worten: Nicht die KI war schuld – sondern einfach nur… ein Fehler. Passiert ja bekanntlich selbst den Besten. Oder ihren Bots.

Nach dem Vorfall habe Amazon zusätzliche Sicherheitsmechanismen eingebaut. Vermutlich auch eine Art digitalen Aufpasser, der künftig kontrolliert, ob der Problemlöser nicht heimlich zum Problemmacher wird.

Die Moral der Geschichte? Selbst wenn die Zukunft automatisiert ist – jemand sollte vielleicht trotzdem noch den Stecker im Blick behalten.