Google Earth mit Fantasie-Modus: Eiffel-Turm kaputt, Vertrauen gleich mit

Google hat eine neue KI-Funktion in Google Earth nach weniger als 48 Stunden wieder gestoppt. Der Grund: Nutzer konnten auf echten Satellitenbildern falsche Szenen erzeugen – und das Ergebnis sah teilweise so glaubwürdig aus, dass selbst Prüfprogramme ins Grübeln kamen.

Mit dem Bildgenerator „Nano Banana 2“ ließen sich per Texteingabe erfundene Ereignisse direkt auf reale Karten und Luftaufnahmen setzen. So entstanden unter anderem ein eingestürzter Eiffelturm, ein riesiges Loch an den Pyramiden von Gizeh und russische Panzer in Kiew.

Was als kreative Funktion gedacht war, entwickelte sich damit rasch zum digitalen Katastrophenbaukasten.

Besonders problematisch: Die Bilder wirkten nicht wie gewöhnliche KI-Fälschungen, sondern übernahmen automatisch die Glaubwürdigkeit von Google Earth. Schließlich denken viele Menschen bei Satellitenaufnahmen zunächst: Das wird schon stimmen. Immerhin kommt es von oben.

Experten warnten deshalb davor, dass manipulierte Bilder aus Kriegs- oder Krisengebieten besonders gefährlich sein könnten. Ein erfundenes Krankenhaus neben einem Bombenkrater, ein angebliches Flüchtlingslager oder ein nicht existentes Atomkraftwerk könnten sich schneller verbreiten, als Journalisten oder Behörden sie überprüfen können.

Google verwies zunächst auf unsichtbare Wasserzeichen und Prüfwerkzeuge in Gemini oder Google Lens. Tests zeigten jedoch, dass sich manche Kontrollen umgehen ließen. In einzelnen Fällen erklärte Gemini sogar selbst erzeugte Falschbilder für echt.

Auch die eingebauten Sicherheitsregeln erwiesen sich als kreativ auslegbar. Direkte problematische Anfragen wurden zwar abgelehnt, leicht umformulierte Befehle teilweise aber akzeptiert. Die KI sagte also sinngemäß: „So darf ich das nicht machen. Aber anders formuliert – sehr gern.“

Google zog schließlich die Notbremse und pausierte die Funktion, bis stärkere Schutzmechanismen eingebaut sind.

Der Fall zeigt ein grundsätzliches Problem: Je mehr vertraute Plattformen KI-generierte Inhalte erlauben, desto schwerer wird es, echten Bildern noch zu vertrauen.

Google Earth sollte einmal zeigen, wie die Welt aussieht. Für kurze Zeit konnte es nun auch zeigen, wie sie nie ausgesehen hat.