Brüssel/Berlin (Reuters) - Die EU-Kommission hat einen strengen Entwurf für Regeln zum Einsatz künstlicher Intelligenz (KI) vorgelegt und will die meisten Überwachungsmaßnahmen verbieten.

"Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk", erklärte die zuständige Vize-Präsidentin der Brüsseler Behörde, Margrethe Vestager, am Mittwoch. "Mit der Schaffung der Standards können wir weltweit den Weg für ethische Technik ebnen und dafür sorgen, dass die EU hierbei wettbewerbsfähig bleibt." Die Vorschriften sollten nur dort eingreifen, wo dies unbedingt notwendig sei - "nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen". Die Kommission will KI-Anwendungen verbieten, die Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen oder Kinder ausbeuten.

KI-Systeme mit hohem Risiko, die in den Bereichen Rekrutierung, kritische Infrastruktur wie Verkehr, der Prüfung von Kreditwürdigkeit, Migration und Strafverfolgung eingesetzt werden, unterliegen strengen Sicherheitsvorkehrungen. Unternehmen, die gegen die Regeln verstoßen, drohen Geldstrafen von bis zu sechs Prozent ihres weltweiten Umsatzes oder 30 Millionen Euro - je nachdem, welcher Wert höher ist.

Künstliche Intelligenz bietet nach Worten von Binnenmarkt-Kommissar Thierry Breton ein riesiges Potenzial in verschiedenen Bereichen wie Gesundheit, Verkehr, Energie, Landwirtschaft, Tourismus oder Cybersicherheit, aber auch eine Reihe von Risiken. Deshalb sollten die EU-Vorschläge dafür sorgen, "dass die KI in Europa unsere Werte und Regeln wahrt, und das Potenzial der KI für eine industrielle Nutzung erschließen helfen". Die Technologie-Lobby CCIA warnte davor, dies dürfe für Firmen und Nutzer nicht zu mehr Bürokratie führen. Der Wirtschaftsrat der CDU betonte, es dürfte keine Überregulierung geben. Die Bürgerrechtsgruppe European Digital Rights hingegen kritisierte, das Regelwerk verbiete nicht "das volle Ausmaß inakzeptabler Anwendungen von KI und insbesondere nicht alle Formen der biometrischen Massenüberwachung".

Der Bundesverband deutscher Banken (BdB) erklärte, der Einsatz von KI-Systemen bei der Kreditwürdigkeitsprüfung in Banken unterliege bereits strenger Aufsicht: "Zusätzliche Anforderungen an die Kreditvergabe aus einer KI-Regulierung sind daher weder sachgerecht noch erforderlich." In Deutschland sehen fast 70 Prozent der Unternehmen KI als wichtigste Zukunftstechnologie, wie aus einer Umfrage des Digitalverbands Bitkom hervorgeht. Jede vierte Firma will hier investieren. Das Europäische Parlament und die EU-Staaten müssen nun über die Vorschläge der Kommission beraten. Sobald die Verordnungen verabschiedet sind, gelten sie unmittelbar in der gesamten EU.