Ein Chatbot beantwortet Fragen auf einer Website. Für viele Nutzer wirkt das modern, schnell und vertrauenswürdig. Doch was passiert, wenn künstliche Intelligenz plötzlich falsche Qualifikationen erfindet? Genau darüber musste jetzt das Oberlandesgericht Hamm entscheiden – mit weitreichenden Folgen für Unternehmen, die KI-Systeme einsetzen.
Im Mittelpunkt stand die Aesthetify GmbH. Auf ihrer Website konnten Patienten mit einem KI-Chatbot kommunizieren und Fragen zu ästhetischen Behandlungen stellen. Dabei behauptete der Bot unter anderem, die hinter dem Unternehmen stehenden Ärzte seien „Fachärzte für plastische und ästhetische Chirurgie“ oder „Fachärzte für ästhetische Medizin“. Problematisch daran: Diese Facharztbezeichnungen existierten teilweise gar nicht oder trafen nicht zu.
Die Verbraucherzentrale Nordrhein-Westfalen klagte – und bekam nun Recht.
Das OLG Hamm stellte klar: Unternehmen können sich nicht damit herausreden, dass die falschen Aussagen „nur vom Chatbot“ stammten. Wer KI-Systeme im geschäftlichen Bereich einsetzt, trägt auch die Verantwortung für deren Aussagen.
Besonders deutlich formulierte das Gericht:
Der Chatbot sei kein „Dritter“, sondern Teil des Unternehmensauftritts. Damit gelten dessen Aussagen rechtlich wie eigene Aussagen des Unternehmens.
Das Urteil könnte für viele Firmen zum Weckruf werden.
Denn immer mehr Unternehmen setzen KI-Chatbots im Kundenkontakt ein – häufig ohne vollständig kontrollieren zu können, welche Antworten die Systeme tatsächlich geben. Genau darin sieht das Gericht offenbar ein erhebliches Risiko für Verbraucher.
Im konkreten Fall ging es um besonders sensible Angaben: medizinische Qualifikationen. Gerade im Gesundheitsbereich vertrauen Patienten darauf, dass Titel und Facharztausbildungen korrekt sind. Falsche Angaben können deshalb unmittelbaren Einfluss auf Entscheidungen von Patienten haben.
Die Richter werteten die Aussagen daher als irreführende geschäftliche Handlung nach dem Wettbewerbsrecht.
Besonders spannend: Das Gericht ließ wegen der grundsätzlichen Bedeutung die Revision zum Bundesgerichtshof zu. Denn erstmals stellt sich in dieser Form die Frage, wie weit Unternehmen für „halluzinierende“ KI-Systeme haften.
Das Urteil sendet damit ein deutliches Signal an die Wirtschaft:
Künstliche Intelligenz mag automatisch antworten – die rechtliche Verantwortung bleibt menschlich.
Kommentar hinterlassen