KI: Bundesregierung setzt Empfehlungen von Datenethikkommission nicht ausreichend um

Zweite Jahresbilanz zeigt Handlungsbedarf der künftigen Bundesregierung auf

- Scheidende Bundesregierung und EU-Kommission bleiben hinter DEK-Empfehlungen zurück.
- Größter Nachholbedarf: Kaum Transparenz und Nachvollziehbarkeit von KI-Systemen für betroffene Verbraucher:innen.
- vzbv: Künftige Bundesregierung muss sich im Koalitionsvertrag zum Schutz vor Diskriminierung durch KI-Systeme bekennen.

(Berlin) - Künstliche Intelligenz und Algorithmen beeinflussen unseren Alltag immer stärker. Versicherungen berechnen damit ihre Prämien, Unternehmen bestimmen damit, welchen Zugang Verbraucher:innen zu Angeboten bekommen, zum Beispiel bei Vermittlungsplattformen. Die von der Bundesregierung eingesetzte Datenethikkommission (DEK) hat deshalb vor zwei Jahren Handlungsempfehlungen zu den Themen Künstliche Intelligenz (KI), algorithmische Systeme und Datenpolitik vorgestellt. Diese sollen den Umgang mit Daten gestalten und Verbraucher:innen besser vor Fehlentscheidungen und Diskriminierung schützen. In den aktuellen Vorhaben der Bundesregierung und EU-Kommission fehlen aus Verbrauchersicht weiterhin zentrale Aspekte.

"In der Gesamtschau bleiben Bundesregierung und EU-Kommission mit ihren aktuellen Vorhaben weiter hinter den Empfehlungen der DEK zurück. Vieles ist zu unkonkret und unverbindlich", sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv). "Die künftige Bundesregierung muss sich zum Schutz der Nutzerinnen und Nutzer vor Diskriminierung durch KI-Systeme bekennen. Sie muss sich für Nachvollziehbarkeit und unabhängige Kontrollen von KI-Systemen einsetzen und dies mit Nachdruck auch auf europäischer Ebene vertreten. Nur so können das Vertrauen und die Akzeptanz für den Einsatz dieser Technologien bei den Verbraucherinnen und Verbrauchern gestärkt werden."

Transparenz und Nachvollziehbarkeit fehlt

Der vzbv untersucht regelmäßig, ob und wie Bundesregierung und EU-Kommission die Empfehlungen der DEK umsetzen. Im Oktober 2020 erschien die erste, ernüchternde Jahresbilanz. Auch ein Jahr später fällt das Urteil kritisch aus.

Größte Baustelle sind aus vzbv-Sicht die Themen Transparenz und Risikofolgenabschätzung von KI-Systemen. Es braucht unabhängige Kontrollen von kritischen KI-Systemen, die zum Beispiel zur Profilbildung und für Scoring genutzt werden. Ein Kompetenzzentrum Algorithmische Systeme kann dabei helfen, bestehende Aufsichtsbehörden durch technischen Sachverstand bei der Kontrolle algorithmischer Systeme zu unterstützen.

Der vzbv hat die aktuelle Evaluierung der Umsetzung der Empfehlungen der Datenethikkommission in einem interaktiven Politiktracker-Webtool sowie als pdf-Datei zusammengestellt.

Quelle und Kontaktadresse:
(vzbv) Verbraucherzentrale Bundesverband e.V. Pressestelle Rudi-Dutschke-Str. 17, 10969 Berlin Telefon: (030) 258000, Fax: (030) 25800218

(mn)