Der Technologiekonzern Google steht in der Kritik, weil er Warnhinweise bei KI-generierten Gesundheitsinformationen offenbar nur unzureichend sichtbar macht. Konkret geht es um die sogenannten „AI Overviews“ – automatisch erstellte Zusammenfassungen, die oberhalb der regulären Suchergebnisse erscheinen und häufig direkt medizinische Ratschläge liefern.
Google betont, Nutzerinnen und Nutzer würden dazu angehalten, bei sensiblen Themen wie Gesundheit professionelle Hilfe in Anspruch zu nehmen. Die KI-Übersichten würden darauf hinweisen, wenn es wichtig sei, ärztlichen Rat einzuholen oder Informationen zu überprüfen.
Recherchen des The Guardian zeigen jedoch: Beim ersten Anzeigen medizinischer Inhalte erscheint kein deutlich sichtbarer Warnhinweis. Erst wenn Nutzer aktiv auf „Mehr anzeigen“ klicken, wird ein Disclaimer eingeblendet – und auch dann erst am Ende der zusätzlichen Informationen, in kleinerer und blasserer Schrift. Dort heißt es unter anderem: „Nur zu Informationszwecken. Für medizinischen Rat oder eine Diagnose wenden Sie sich an Fachpersonal. KI-Antworten können Fehler enthalten.“
Google widersprach nicht der Darstellung, dass die Hinweise erst später und weniger prominent erscheinen. Ein Sprecher erklärte, die KI-Übersichten würden „bei Bedarf“ innerhalb der Zusammenfassung selbst empfehlen, medizinische Hilfe zu suchen.
Experten für Künstliche Intelligenz und Patientenvertreter äußern dennoch deutliche Bedenken. Pat Pataranutaporn vom Massachusetts Institute of Technology warnt, dass moderne KI-Modelle weiterhin Fehlinformationen erzeugen oder zu stark auf Nutzerzufriedenheit statt Genauigkeit ausgerichtet sein können. Gerade im Gesundheitsbereich könne das gefährlich werden.
Auch Gina Neff von der Queen Mary University of London kritisiert das Design der Funktion: Die KI-Zusammenfassungen seien auf Schnelligkeit ausgelegt, nicht auf Genauigkeit. Das erhöhe das Risiko von Fehlern. Prominente Warnhinweise seien deshalb unverzichtbar.
Bereits im Januar hatte der Guardian berichtet, dass irreführende oder falsche Gesundheitsinformationen in Googles KI-Übersichten potenziell Schaden anrichten könnten. In der Folge entfernte Google die Funktion für einige medizinische Suchanfragen, jedoch nicht vollständig.
Sonali Sharma vom KI-Medizinzentrum der Stanford University weist darauf hin, dass die prominente Platzierung der AI Overviews am oberen Rand der Suchseite eine trügerische Sicherheit vermittle. Viele Nutzer nähmen die erste Zusammenfassung als ausreichend wahr und suchten nicht weiter nach zusätzlichen Informationen oder Warnhinweisen. Besonders problematisch sei, dass die Inhalte teils korrekt, teils fehlerhaft seien – was es Laien erschwere, die Qualität der Angaben einzuschätzen.
Auch Patientenorganisationen fordern Änderungen. Ein Vertreter der Blutkrebs-Stiftung Anthony Nolan betonte, gerade bei Gesundheitsinformationen könne Fehlinformation „potenziell sehr gefährlich“ sein. Warnhinweise müssten deutlich sichtbarer und direkt am Anfang stehen – in derselben Schriftgröße wie der übrige Text.
Die Debatte zeigt: Mit dem Einsatz generativer KI im Gesundheitsbereich wächst nicht nur der Komfort für Nutzer, sondern auch die Verantwortung der Plattformen. Transparente und gut sichtbare Hinweise könnten entscheidend sein, um Risiken zu minimieren und falsches Vertrauen zu verhindern.
Kommentar hinterlassen