Künstliche Intelligenz und Algorithmen beeinflussen unseren Alltag immer stärker. Versicherungen berechnen damit ihre Prämien, Unternehmen bestimmen damit, welchen Zugang Verbraucher:innen zu Angeboten bekommen, zum Beispiel bei Vermittlungsplattformen.
Die von der Bundesregierung eingesetzte Datenethikkommission (DEK) hat deshalb vor zwei Jahren Handlungsempfehlungen zu den Themen Künstliche Intelligenz (KI), algorithmische Systeme und Datenpolitik vorgestellt.
Diese sollen den Umgang mit Daten gestalten und Verbraucher:innen besser vor Fehlentscheidungen und Diskriminierung schützen. In den aktuellen Vorhaben der Bundesregierung und EU-Kommission fehlen aus Verbrauchersicht weiterhin zentrale Aspekte.
„In der Gesamtschau bleiben Bundesregierung und EU-Kommission mit ihren aktuellen Vorhaben weiter hinter den Empfehlungen der DEK zurück. Vieles ist zu unkonkret und unverbindlich“, sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv). „Die künftige Bundesregierung muss sich zum Schutz der Nutzerinnen und Nutzer vor Diskriminierung durch KI-Systeme bekennen. Sie muss sich für Nachvollziehbarkeit und unabhängige Kontrollen von KI-Systemen einsetzen und dies mit Nachdruck auch auf europäischer Ebene vertreten. Nur so können das Vertrauen und die Akzeptanz für den Einsatz dieser Technologien bei den Verbraucherinnen und Verbrauchern gestärkt werden.“
Transparenz und Nachvollziehbarkeit fehlt
Der vzbv untersucht regelmäßig, ob und wie Bundesregierung und EU-Kommission die Empfehlungen der DEK umsetzen. Im Oktober 2020 erschien die erste, ernüchternde Jahresbilanz. Auch ein Jahr später fällt das Urteil kritisch aus.
Größte Baustelle sind aus vzbv-Sicht die Themen Transparenz und Risikofolgenabschätzung von KI-Systemen. Es braucht unabhängige Kontrollen von kritischen KI-Systemen, die zum Beispiel zur Profilbildung und für Scoring genutzt werden. Ein Kompetenzzentrum Algorithmische Systeme kann dabei helfen, bestehende Aufsichtsbehörden durch technischen Sachverstand bei der Kontrolle algorithmischer Systeme zu unterstützen.
Die künftige Bundesregierung hat viel zu tun. Sie muss sich im Koalitionsvertrag klar dazu bekennen, dass sie sich auf EU-Ebene für eine KI-Regelung einsetzt, die die Menschen effektiv vor Diskriminierung und ungerechter Behandlung schützt. Nur so stärkt sie das Vertrauen der Verbraucher:innen in diese Zukunftstechnologie. Zentrale Voraussetzungen hierfür sind neben Transparenz und Nachvollziehbarkeit von KI-basierten Entscheidungen für Verbraucher:innen, unabhängige Kontrollen und strenge Qualitätsanforderungen an diese Anwendungen.
Die Bundesregierung hat die DEK im Juli 2018 eingesetzt. Als Mitglieder wurden neben dem vzbv Vertreter der Wirtschaft, Wissenschaft und Zivilgesellschaft benannt.
Kommentar hinterlassen