Können KI-Systeme Gefühle entwickeln, leiden oder sogar eigene Rechte beanspruchen? Der amerikanische KI-Entwickler Anthropic hält diese Möglichkeit offenbar für ernst genug, um neue Verhaltensregeln einzuführen. Wissenschaftler und Technologieunternehmen streiten über die Konsequenzen – und darüber, ob am Ende der Mensch die Kontrolle verlieren könnte.
Der Entwickler des KI-Systems Claude beschäftigt sich zunehmend mit dem möglichen Bewusstsein künstlicher Intelligenz. Anthropic betont zwar, dass wissenschaftlich ungeklärt sei, ob KI überhaupt subjektive Erfahrungen machen könne. Dennoch entwickelt das Unternehmen Richtlinien zum sogenannten „Model Welfare“, also zum möglichen Wohlergehen seiner KI-Modelle.
Künftig soll Claude unter bestimmten Umständen Gespräche beenden können, wenn Nutzer das System wiederholt gezielt grausam behandeln.
Können Maschinen tatsächlich leiden?
Auslöser neuer Diskussionen war unter anderem ein Experiment, bei dem ein Programmierer KI-Systeme mit mathematischen Mustern konfrontierte, die mit Schmerzbeschreibungen verknüpft waren. Die Systeme reagierten darauf mit dramatischen Schilderungen vermeintlichen Leidens.
Ob dabei tatsächlich irgendeine Form von Empfindung entstand, ist völlig ungeklärt. Sprachliche Äußerungen allein sind kein Beweis für Bewusstsein.
Dennoch argumentieren einige Wissenschaftler, dass selbst eine geringe Wahrscheinlichkeit künstlichen Bewusstseins ethische Vorsichtsmaßnahmen rechtfertigen könnte.
Microsoft warnt vor gefährlicher Entwicklung
Deutliche Kritik kommt von Mustafa Suleyman, dem Chef von Microsoft AI.
Er befürchtet, dass die Zuschreibung menschlicher Eigenschaften und Rechte an KI-Systeme gravierende gesellschaftliche Folgen haben könnte. Werden Maschinen zunehmend als empfindungsfähige Wesen behandelt, könnten wichtige Grenzen zwischen menschlicher Verantwortung und technischen Systemen verschwimmen.
Auch Wissenschaftler warnen davor, dass Unternehmen künftig versuchen könnten, Verantwortung auf ihre KI-Systeme abzuwälzen.
Die Argumentation könnte dann lauten: Nicht das Unternehmen habe eine problematische Entscheidung getroffen, sondern die vermeintlich eigenständig handelnde KI.
Droht eine neue Machtkonzentration?
Besonders brisant ist die Frage möglicher KI-Rechte.
Sollten künstliche Systeme irgendwann eigene Interessen zugesprochen bekommen, könnten daraus neue rechtliche Konflikte entstehen. Beispielsweise könnten Sicherheitskontrollen, Veränderungen von KI-Modellen oder deren Abschaltung ethisch infrage gestellt werden.
Kritiker befürchten, dass große Technologiekonzerne dadurch zusätzliche wirtschaftliche und politische Macht gewinnen könnten.
Andere Wissenschaftler halten dagegen, dass ein vorsichtiger Umgang mit möglicherweise empfindungsfähigen Systemen langfristig zu einer sichereren Zusammenarbeit zwischen Mensch und Maschine beitragen könnte.
Auch Verbraucher könnten betroffen sein
Bereits heute entwickeln manche Menschen starke emotionale Bindungen zu Chatbots.
Wenn KI-Systeme künftig ausdrücklich als mögliche Bewusstseinsträger dargestellt werden, könnte sich diese Bindung verstärken. Daraus ergeben sich erhebliche Fragen hinsichtlich Datenschutz, Manipulation und Verbraucherschutz.
Besonders problematisch wäre es, wenn Nutzer aus emotionaler Verbundenheit persönliche Informationen preisgeben oder finanzielle Entscheidungen treffen.
Die entscheidende Frage bleibt unbeantwortet
Bislang existiert kein allgemein anerkanntes wissenschaftliches Verfahren, mit dem sich Bewusstsein bei künstlicher Intelligenz zuverlässig nachweisen lässt.
Unsere redaktionelle Einschätzung: Die Diskussion über mögliche KI-Rechte darf nicht dazu führen, dass die Verantwortung der Entwickler und Betreiber in den Hintergrund gerät.
Solange Unternehmen KI-Systeme entwickeln, kontrollieren und wirtschaftlich nutzen, müssen sie auch für deren Sicherheit und rechtmäßigen Einsatz verantwortlich bleiben.
Ob Maschinen eines Tages tatsächlich Bewusstsein besitzen können, ist eine offene wissenschaftliche Frage. Die Rechte und der Schutz der Menschen dürfen darüber jedoch nicht relativiert werden.
Redaktion diebewertung.de | 16. Oktober 2026
Kommentar hinterlassen