Künstliche Intelligenz (KI) nimmt zunehmend Einfluss auf den täglichen Konsum, sei es durch digitale Assistenten, die Emotionen in Echtzeit erkennen, oder durch personalisierte Empfehlungen und Angebote. Angesichts dieser Entwicklungen wird eine verbraucherfreundliche Regulierung der KI-Technologie immer dringlicher. Am 13. März wurde vom Europäischen Parlament der Artificial Intelligence Act (AI Act) verabschiedet, ein Schritt, der aus der Perspektive des Verbraucherzentrale Bundesverbands (vzbv) in die richtige Richtung geht, aber dennoch nicht alle notwendigen Schutzmaßnahmen für Verbraucherinnen und Verbraucher bietet. Der vzbv hebt hervor, dass bei der nationalen Implementierung des AI Acts in Deutschland die Interessen der Verbraucherinnen und Verbraucher im Vordergrund stehen müssen.

Die zunehmende Verbreitung von KI-basierten Diensten und Anwendungen birgt sowohl Chancen als auch Risiken. Daher wird die Einigung der EU-Institutionen auf Regelungen und Qualitätsstandards für Betreiber von KI-Systemen als positiv betrachtet. Jedoch bieten die aktuellen Regelungen des AI Acts nicht den gewünschten umfassenden Schutz. Es wird gefordert, dass die Bundesregierung und der Bundestag die bestehenden Spielräume nutzen, um unter anderem die KI-gesteuerte Gesichtserkennung im öffentlichen Raum zu verbieten und effiziente Aufsichtsstrukturen zu schaffen.

Trotz einiger Fortschritte durch den AI Act, wie beispielsweise das Recht auf Erklärung bei KI-Systemen mit hohem Risiko, bleiben Schutzlücken bestehen. Die vorgesehenen Regelungen gegen manipulative KI-Praktiken werden kritisiert, da sie nur greifen, wenn die Manipulation absichtlich erfolgt, was in der Praxis schwer nachweisbar ist. Der vzbv setzt sich dafür ein, jegliche Form der Manipulation oder das Ausnutzen persönlicher Schwächen durch KI grundsätzlich zu verbieten.

Zudem wird begrüßt, dass Verbraucherschutzorganisationen zukünftig gegen KI-Betreiber vorgehen können, die gegen den AI Act verstoßen. Dies gibt Verbraucherinnen und Verbrauchern die Möglichkeit, ihre Rechte effektiver zu verteidigen, da sie oft nicht die Mittel haben, um alleine vor Gericht zu ziehen.

Seit April 2021 laufen in Brüssel Verhandlungen über einen Rechtsrahmen für KI, den AI Act, mit dem Ziel, die EU zum Vorreiter in der KI-Regulierung zu machen. Obwohl der AI Act bereits verabschiedet wurde, wird erwartet, dass die Regulierung erst ab 2026 in der Praxis wirksam wird.