Berlin (kkdp)·vzbv: EU-Gesetzgeber muss jetzt Verbraucherschutz in den künftigen Regeln für KI-Systeme verankern

Betroffene brauchen Recht auf Auskunft und Erklärung.

Ausnutzung persönlicher Schwächen und Manipulation durch KI müssen verboten werden.

Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen.

Der Konsumalltag wird immer stärker durch Künstliche Intelligenz (KI) wie Shopping-Assistenten oder ChatGPT beeinflusst. Bei der Regulierung von KI müssen daher die Belange von Verbraucher:innen berücksichtigt werden. In Brüssel sind die Verhandlungen für den Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AI Act), jetzt auf der Zielgeraden. Der Verbraucherzentrale Bundesverband (vzbv) fordert: Verbraucher:innen müssen besonders geschützt werden und starke Rechte bekommen.

"Künstliche Intelligenz wird den Konsumalltag weiter radikal verändern. Damit uns die technische Entwicklung nicht davongaloppiert, braucht es verbindliche Regeln und starke Verbraucherrechte gegenüber KI-Betreibern", sagt Ramona Pop.

"Auf EU-Ebene werden jetzt die Weichen gestellt, wie und nach welchen Regeln KI in den nächsten Jahrzehnten unser Leben bestimmt. Das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission müssen die Chance ergreifen und den AI Act im Sinne der Menschen gestalten. Nur auf dieser Basis wächst Vertrauen in KI und damit die gesellschaftliche Akzeptanz dieser Technologie", so Pop.

Schon heute wird KI in sensiblen Lebensbereichen eingesetzt, etwa als Mental-Health-Berater. Generative KI-Systeme wie ChatGPT können die Entscheidungen von Verbraucher:innen beeinflussen, zum Beispiel Kaufentscheidungen beim Online-Shopping. Dabei besteht die Gefahr, dass KI die Verbraucher:innen manipuliert und übervorteilt.

Für den AI-Act fordert der vzbv:

Betroffenenrechte für Hochrisiko-KI einführen

Verbraucher:innen brauchen ein Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko-KI-Systemen.

"Nur, wenn Betroffene wissen, welche Daten verwendet werden und wie die Entscheidung zustande kam, können sie sich wehren und ihre Rechte wahrnehmen", sagt Pop. Wichtig sei auch ein Recht auf Beschwerde bei den Aufsichtsbehörden.

Schutz vor Manipulation und Ausnutzung persönlicher Schwächen

Der AI Act verbietet zwar den Einsatz von KI zur subtilen Manipulation sowie zum Ausnutzen von Schwächen von älteren Menschen, Minderjährigen und Menschen mit Behinderungen. Der vorgesehene Schutz ist aber lückenhaft.

"Wenn menschliches Verhalten in Echtzeit analysiert wird, ist jede:r situativ verwundbar", sagt Pop. Wenn KI erkennt, dass eine Person zu Spielsucht neigt, müde ist, gestresst oder in Trauer, dürfe das nicht ausgenutzt werden. "Alle Verbraucher:innen müssen geschützt werden - auch vor finanziellen Schäden." Mit generativen KI-Systemen wie Chat GPT wird ein umfassendes Verbot noch wichtiger, weil Verbraucher:innen damit besonders leicht manipuliert oder Falschinformation generiert werden können.

Effektive Rechtsdurchsetzung sicherstellen - Verbandsklage für Missbrauch von KI ermöglichen

Betroffene haben oft weder die Ressourcen noch die Fähigkeiten ihre Rechte gegenüber Betreibern von KI-Systemen vor Gericht durchzusetzen. Darum muss der AI Act in den Anhang der europäischen Verbandsklagen-Richtlinie aufgenommen werden. "Institutionen wie der vzbv müssen die Möglichkeit haben, Klagen gegen bestimmte KI-Betreiber im Namen geschädigter Verbraucher:innen zu führen und Entschädigungen einzufordern", sagt Pop.

Hintergrund

Seit April 2021 wird in Brüssel ein Rechtsrahmen für KI, der Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen definieren. Der Rat hatte sich bereits am 6. Dezember 2022 auf eine Position zum AI Act geeinigt. Das Europäische Parlament folgte am 14. Juni 2023. Im Rahmen der Trilog-Verhandlungen findet am Dienstag, 24. Oktober die entscheidende Verhandlung zwischen Rat, Europäischem Parlament und Europäischer Kommission statt. Eine Einigung soll bis Ende 2023 erfolgen.