Die Europäische Kommission hat die KI-Vorschriften im vergangenen Jahr vorgeschlagen, um mit China und den Vereinigten Staaten bei einer Technologie gleichzuziehen, die in Smartphones, Computern, selbstfahrenden Autos, Online-Shopping und Werbung sowie in Fabriken eingesetzt wird.

Der Entwurf der Regeln muss nächstes Jahr mit den EU-Ländern und den EU-Gesetzgebern abgestimmt werden, bevor er umgesetzt werden kann. Die EU-Gesetzgeber haben sich noch nicht auf einen gemeinsamen Standpunkt geeinigt.

Die Länder haben sich darauf geeinigt, nationale Sicherheit, Verteidigung und militärische Zwecke von den KI-Vorschriften auszunehmen, so eine Erklärung des Rates der Europäischen Union.

Sie einigten sich darauf, den Einsatz von KI für Social Scoring zu verbieten - bei dem Bürger auf der Grundlage von Daten über ihre Aktivitäten bewertet werden - während Strafverfolgungsbehörden biometrische Identifizierung im öffentlichen Raum nur dann einsetzen dürfen, wenn dies unbedingt erforderlich ist, heißt es weiter.

Die Länder stuften KI-Systeme als besonders risikoreich ein, da sie Grundrechtsverletzungen verursachen.

Die Europäische Verbraucherorganisation (BEUC) sagte, dass viele wichtige Fragen nicht angesprochen wurden, wie z.B. die Gesichtserkennung durch Unternehmen in öffentlichen Bereichen, während die Bestimmungen, die Systeme als hohes Risiko einstufen, verwässert wurden.

"Die Verbraucher sind besorgt über die Risiken der KI, wie z.B. ihr Potenzial, die Diskriminierung zu verstärken, und haben wenig Vertrauen in die Behörden, die eine effektive Kontrolle über die KI ausüben", sagte die stellvertretende BEUC-Generaldirektorin Ursula Pachl.

Der Abgeordnete Patrick Breyer von der deutschen Piratenpartei im Europäischen Parlament schlug in Sachen Gesichtserkennung Alarm.

"Wir müssen uns gegen die biometrische Massenüberwachung in unseren öffentlichen Räumen wehren, denn diese Technologien erfassen zu Unrecht eine große Zahl unschuldiger Bürger, diskriminieren systematisch unterrepräsentierte Gruppen und haben eine abschreckende Wirkung auf eine freie und vielfältige Gesellschaft", sagte er.