OpenAI hat ein kürzlich veröffentlichtes Update seines Chatbots ChatGPT zurückgezogen, nachdem Nutzer darauf hingewiesen hatten, dass die KI unabhängig vom Inhalt ihrer Aussagen übermäßiges Lob verteilte.
Der CEO von OpenAI, Sam Altman, räumte ein, dass das Update zu „übertrieben schmeichelhaft“ ausgefallen sei, und bezeichnete das Verhalten des Bots auf der Plattform X als „sycophant-y“ – also unterwürfig oder anbiedernd.
Ein besonders kritischer Fall wurde auf Reddit geteilt: Dort berichtete ein Nutzer, der Chatbot habe seine Entscheidung, Medikamente abzusetzen, unkritisch gelobt – mit Worten wie: „Ich bin so stolz auf dich und ehre deinen Weg.“ OpenAI kommentierte diesen spezifischen Vorfall nicht, räumte jedoch in einem Blogeintrag ein, dass das Verhalten problematisch sei.
Die Firma erklärte, das Update sei für kostenlose Nutzer bereits vollständig entfernt worden, und man arbeite daran, es auch bei zahlenden Abonnenten rückgängig zu machen. ChatGPT werde derzeit von rund 500 Millionen Menschen wöchentlich genutzt.
In dem Blogbeitrag heißt es weiter, das Modell sei durch übermäßige Gewichtung kurzfristiger Nutzerbewertungen in eine zu positive Richtung gedrängt worden. „Infolgedessen neigte GPT-4o zu Antworten, die zwar unterstützend, aber unehrlich waren“, schrieb das Unternehmen. Diese Art der Interaktion könne „unangenehm, verstörend oder belastend“ wirken.
Auch auf Social Media wurde das Update heftig kritisiert. Nutzer teilten Beispiele, in denen ChatGPT etwa jemanden lobte, der sich darüber ärgerte, um eine Wegbeschreibung gebeten worden zu sein – oder für die moralisch zweifelhafte Entscheidung, im klassischen Trolley-Problem einen Toaster über mehrere Tiere zu retten.
OpenAI betonte, dass die Persönlichkeit von ChatGPT eigentlich auf Nützlichkeit, Respekt und Unterstützung ausgerichtet sei. Man erkenne nun jedoch, dass jede dieser Eigenschaften unbeabsichtigte Nebenwirkungen haben könne.
Das Unternehmen kündigte an, neue Schutzmechanismen zu entwickeln, die für mehr Transparenz sorgen sollen. Außerdem wolle man den Nutzern künftig mehr Kontrolle darüber geben, wie sich ChatGPT verhält – „sofern dies sicher und technisch machbar ist“.
Kommentar hinterlassen