AI Act: Massive Bedenken gegen KI-Verordnung

Die Aufregung rund um die neue Regelung für künstliche Intelligenz innerhalb der Europäischen Union nimmt nicht ab. Nachdem Verbraucherschützer bereits im Oktober 2023 für eine Stärkung der Nutzerrechte plädierten, häufen sich nicht nur im Europäischen Parlament die kritischen Stimmen.

Nachdem sich bereits Ende Oktober des letzten Jahres abzeichnete, dass sich die finale Fassung des AI Act in das neue Jahr verschieben wird, geht die Suche nach einem Kompromiss nun weiter – doch so richtig zufrieden scheint niemand mit den bisher Erreichtem zu sein. So mehren sich nun aus verschiedenen Lagern vermehrt kritische Stimmen.

Europa drohe ein „China light“

So äußerte unter anderem die FDP-Europaabgeordnete Svenja Hahn gegenüber heise.de massive Bedenken, sollte die Verordnung in ihrer jetzigen Form verabschiedet werden. Für sie sei der bisherige Entwurf ein „enttäuschendes Gesetz“, das Europa in ein „China light“ verwandeln würde. Dies sei ihrer Meinung nach aber nicht die Schuld des Parlaments, das erfolglos versucht habe, ein Verbot biometrischer Echtzeitüberwachung durchzusetzen. Gegen die Mitgliedstaaten konnte sich das Gremium letztlich aber nicht durchsetzen, lediglich einige rechtsstaatliche Hürden für den Einsatz biometrischer Echtzeitidentifizierung konnten den Ländern abgerungen werden.

Vor allem die retrograde biometrische Identifizierung von Personen ohne rechtsstaatliche Vorgaben wie eine vorherige richterliche Genehmigung stellt für Hahn ein großes Problem dar, die ihrer Meinung nach bereits bei kleineren Delikten möglich wäre. Argumente wie Terrorgefahr oder die nationale Sicherheit würden bereits genügend Schlupflöcher für eine Massenüberwachung bieten. Für Hahn drohe daher „ein Flächenbrand für Bürgerrechte“.

Wegweisende Verordnung

Die EU-Fraktion der Grünen lässt zwar auch Kritik verlauten, generell wollen die Abgeordneten aber den Kompromiss mittragen. So kann die Grünen-Europaabgeordnete Alexandra Geese dem bisher erarbeiteten Text daher auch Positives abgewinnen. So sieht Geese den Einsatz biometrischer Identifizierungs­technologien zwar als problematisch an, doch sei dies für sie noch kein Grund, „die KI-Verordnung jetzt als Ganzes abzulehnen“ – ein Scheitern wäre ihrer Meinung nach das falsche Signal. Für die EU-Abgeordnete ist die bisher gefundene Lösung trotz aller Schwächen „weltweit wegweisend“, da sie „wichtige Bestimmungen zu generativer KI und zum Schutz von Grundrechten“ enthalte.

BfDI geht auf Distanz

Deutlich distanzierter sieht der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) die gefundene Übereinkunft. So stärke die Verordnung den Schutz personenbezogener Daten, was insbesondere für automatisierte Entscheidungen oder dem Scraping von Fotos für Gesichtsdatenbanken gelte. Auch das sogenannte Social Scoring wird nun noch eindeutiger verboten.

Andererseits gebe es seiner Meinung nach zu viele Ausnahmen, wie unter anderem das Predictive Policing, also der Analyse von Falldaten zur Berechnung der Wahrscheinlichkeit zukünftiger Straftaten zur Steuerung des Einsatzes von Polizeikräften. So bemängelt das BfDI unter anderem, dass die Verordnung nicht verhindere, „dass mittels KI besonders sensible personenbezogene Daten einer unverhältnismäßigen großen Anzahl von Personen unterschiedslos verarbeitet werden“. Dies könne der Behörde nach große Auswirkungen auf die Bevölkerung haben, die sich damit im öffentlichen Raum nicht mehr anonym fühle, was wiederum Einfluss auf die Meinungs-, Versammlungs- und Vereinigungsfreiheit nehmen könnte.

Bundesregierung prüft noch

Positiv sieht das BfDI hingegen die Öffnungsklausel für striktere Verbote, womit der Ball für die Umsetzung hierzulande nun bei der Bundesregierung liegen würde. Diese prüft den erarbeiteten Text derzeit noch, das Fehlen eigener Vorschläge wie etwa zur Regulierung von Foundation Models lässt das Bundesministerium für Digitales und Verkehr daher zurückhaltender klingen – für eine abschließende Bewertung sei es derzeit noch zu früh. „Bei der andauernden Bewertung des Texts stehen für das BMDV die Offenheit für Innovationen, ein geringer bürokratischer Aufwand für kleine und mittlere Unternehmen bei einer möglichen Umsetzung und die internationale Anschlussfähigkeit der Regeln im Mittelpunkt“, ließ die Behörde über einen Sprecher verlauten.

Verabschiedung alles andere als sicher

Inwieweit die einzelnen Staaten dem finalen Text zustimmen werden, bleibt abzuwarten. So ist noch nicht absehbar, ob der Europarat dem Vorhaben in seiner jetzigen Form zustimmen wird – auch innerhalb des Gremiums gingen die einzelnen Positionen bisher teilweise weit auseinander. So soll sich vor allem Frankreich immer wieder auf eine Aufweichung der Bestimmungen gedrängt haben – „Nationale Sicherheit“ war hier stets das Hauptargument.