Chatkontrolle: Abstimmung im EU-Rat nach deutscher Kritik vertagt
Vor einem Jahr hat die EU-Kommission die Chatkontrollen-Pläne im Rahmen der Verordnung präsentiert, die Kinder vor sexuellem Missbrauch im Internet schützen soll. Seitdem verhandeln EU-Parlament und EU-Rat, bald ist mit finalen Entwürfen zu rechnen. Was sich abzeichnet, sind begrenzte Vorgaben.
Die Frage ist nun, wie weit die Beschränkungen gehen sollen. Wo die Konfliktlinien verlaufen, verdeutlicht bereits der Streit innerhalb der Bundesregierung, wie Netzpolitik.org unter Berufung auf interne Dokumente berichtet. Kern der Auseinandersetzung über die EU-Verordnung ist wie gehabt die Chatkontrolle. Im Rahmen einer „Aufdeckungsanordnung“ können Internetdienste wie WhatsApp verpflichtet werden, auf den Geräten der Nutzer automatisiert nach kinderpornographischen Inhalten zu suchen – das sogenannte Client-Side-Scanning.
Unterstützt wird das Vorhaben grundsätzlich vom Bundesinnenministerium, das derzeit für die Bundesregierung in Brüssel verhandelt. Einig ist sich die Bundesregierung allerdings nicht. Bereits im Koalitionsvertrag hieß es, man lehne „allgemeine Überwachungspflichten“ sowie „Maßnahmen zum Scannen privater Kommunikation“ ab. Vor allem die FDP-Ministerien vertreten diesen Standpunkt wie gehabt.
Was folgte, war ein Kompromiss Anfang dieses Jahres. So akzeptierte das Innenministerium Ausnahmen beim Client-Side-Scanning, diese gelten aber nur für Ende-zu-Ende-verschlüsselte Inhalte. Kommunikationsdienste ohne Ende-zu-Ende-Verschlüsselung wie E-Mail wären weiterhin betroffen. Laut Netzpolitik.org will sich die Bundesregierung bald auf eine konkrete Position verständigen und „konkrete Änderungswünsche demnächst“ vorlegen.
EU-Rat will wenig Ausnahmen, EU-Parlament stutzt Chatkontrolle zusammen
Aber auch ohne konkrete deutsche Position laufen derweil die Verhandlungen im EU-Rat. Dort beraten die Mitgliedsstaaten über die Vorlage der EU-Kommission. Aktuell steht ein Kompromiss im Raum, so ein Bericht von Heise Online, der bei der Chatkontrolle eine Ausnahme für nummerngebundene Dienste vorsieht. Das bedeutet: Die Chat-Dienste von Facebook, iMessage von Apple, WhatsApp, Signal, Telegram oder Threema müssten scannen. Auf Telefonnummern basierende Dienste wie SMS oder auch Skype wären hingegen nicht betroffen.
Massiverer Widerstand ist derweil im EU-Parlament zu erwarten. Die Abgeordneten haben die Chatkontrollen-Regelungen deutlich zusammengestrichen. So soll es keine Chatkontrolle für Ende-zu-Ende-verschlüsselte Dienste sowie weniger Überwachungspflichten für Anbieter geben. Zudem will das EU-Parlament die KI-Erfassung vollständig aus dem Entwurf entfernen.
Denn beim Client-Side-Scanning gibt es zwei Verfahren: Beim einem erfolgt das Filtern mit einem Hashwert-Abgleich von bekanntem Material. Beim zweiten sollten künftig KI-Systeme automatisch erkennen, ob es sich um kinderpornographische Inhalte handelt. Vor allem letztes gilt technisch als hochproblematisch.
Außerdem wird das komplette Vorhaben von Bürgerrechtlern massiv kritisiert. Ebenso lehnen es auch weitere Verbände wie der Kinderschutzbund ab.
Netzsperren als weiterer Streitpunkt
Neben den Chatkontrolle-Regelungen plant die EU im Rahmen des Vorhabens noch weitere Regelungen. Dazu zählen etwa auch konkrete Löschfristen für Hosting-Anbieter und das Auslisten entsprechender Inhalte aus den Suchmaschinen sowie verschärfte Vorgaben bei der Altersverifikationen. Zum weiteren Streitpunkt entwickeln sich zudem die Netzsperren, die der Entwurf vorsieht.
Ob Netzsperren ein geeignetes Mittel im Kampf gegen Darstellungen von sexuellem Missbrauch sind, bleibt ohnehin zweifelhaft. Experten befürworten den Ansatz „Löschen statt Sperren“, wie aus dem Jahresbericht 2022 der Eco-Beschwerdestelle hervorgeht. Der Verband der Internetwirtschaft betreibt eine Beschwerdestelle, bei der Menschen auch anonym kinderpornografische Inhalte melden können. Danach wird die Löschung veranlasst.
Bei den in Deutschland gehosteten Webseiten konnten Darstellungen des sexuellen Missbrauchs laut Eco zu 100 Prozent und innerhalb von durchschnittlich rund 2,8 Tagen gelöscht werden. Weltweit wurden derartige Inhalte in rund einer Woche und mit einer Gesamterfolgsquote von 98,5 Prozent entfernt. „Wir sind zutiefst davon überzeugt, dass das Prinzip: Löschen statt Sperren der einzig gangbare Weg bei der Bekämpfung illegaler Internetinhalte sein kann“, erklärte Beschwerdestellen-Leiterin Alexandra Koch-Skiba. Die EU sollte daher vor allem diesen Ansatz sowie weitere etablierte und bereits funktionierende Strukturen besser fördern und einbeziehen.
Bestätigung für die Kritiker: Nun kommt auch der wissenschaftliche Dienst des EU-Parlaments in einem Gutachten zu dem Schluss, dass die Chatkontrolle nicht mit den EU-Grundrechten vereinbar ist. Vorgestellt wurde dieses Gutachten heute im Innenausschuss des EU-Parlaments (LIBE), eine vollständige Version hat Netzpolitik.org veröffentlicht.
Laut den Gutachtern verstoße die Chatkontrolle gegen mehrere Grundrechte, die die Privatsphäre schützen. Eines der Kernprobleme: Wenn per Anordnung bestimmte Dienste sämtliche Inhalte scannen, entspricht das einer allgemeinen und anlasslosen Datenerfassung – also einer Art Vorratsdatenspeicherung, die bekanntlich nicht mit dem EU-Recht vereinbar ist.
Zweifel bestehen zudem, ob mehr Meldungen tatsächlich zu mehr Ermittlungsverfahren sowie einen besseren Schutz von Kindern führen. Das gilt vor allem, wenn KI-Systeme bis dato nicht bekannte Missbrauchsdarstellungen eigenständig erkennen sollen. Zu rechnen ist bei einem solchen Vorgehen mit einer Vielzahl an fehlerhaften Meldungen. Weil die ohnehin knapp besetzten Behörden dann vor allem mit dem Bewerten der Meldungen beschäftigt wären, könnte die Ermittlungsarbeit im Endeffekt sogar negativ beeinflusst werden.
Patricker Breyer, Abgeordneter für die Piraten, sieht sich durch das Gutachten des wissenschaftlichen Dienstes in seiner Kritik bestätigt. Das Vorhaben ist grundrechtswidrig, außerdem „würde Flut an meist falschen Verdachtsmeldungen effektive Ermittlungen erschweren, Kinder massenhaft kriminalisieren und an den eigentlichen Missbrauchstätern und Produzenten solchen Materials vorbei gehen“. Er fordert stattdessen eine Pflicht für Strafverfolgungsbehörden, bekanntes Material löschen zu lassen, zeitnahe Ermittlungen sowie wirksame Standards für Präventionsmaßnahmen.
Am 28. September will der EU-Rat, in dem Vertreter der Mitgliedsstaaten sitzen, über die Chatkontrolle abstimmen. Das Bündnis „Chatkontrolle stoppen!“ fordert nun von der Bundesregierung, gegen die entsprechende Vorlage zu stimmen. Die Kritik aus dem offenen Brief ist bekannt: Werden Inhalte auf den Geräten der Nutzer überwacht, handelt es sich demnach um eine Massenüberwachung, die Menschen grundsätzlich unter Generalverdacht stellt. Zudem würde die Verordnung mit einer Ausweispflicht im Internet einhergehen, wäre technisch gefährlich und untergrabe die sichere Kommunikation.
Das Bündnis umfasst 32 Organisationen. Dazu zählen etwa Algorithmwatch, der Chaos Computer Club (CCC), die Digitale Gesellschaft, die Gesellschaft für Informatik sowie Reporter ohne Grenzen.
Wie die Abstimmung ausgeht, ist noch unklar. Einige Staaten wollen Überwachungsmechanismen nur auf Verdachtsfälle begrenzen, berichtet Netzpolitik.org unter Berufung auf interne Verhandlungsprotokolle.
Offenbar ist der Zeitplan bis zur finalen Abstimmung über die Verordnung zum Schutz von Kindern vor sexuellen Missbrauch im EU-Rat nicht mehr zu halten. Das berichtet Heise Online unter Verweis auf Informationen aus Regierungskreisen. Demnach hätten Vertreter der Mitgliedsstaaten sich heute auf einen finalen Entwurf einigen müssen, damit die Justiz- und Innenminister der EU-Staaten dann am 28. September über diesen abstimmen können. Allerdings soll das Thema nicht mehr auf der Tagesordnung in dem entsprechenden Ausschuss stehen.
Einer der Gründe für dieses Vorgehen ist die massive Kritik am anlasslosen Scannen der privaten Kommunikation, die auch mehrere EU-Staaten teilen. Das Bundesjustizministerium unter Marco Buschmann (FDP) soll daher nun vorgeschlagen haben, über die umstrittenen Artikel 7 bis 11 aus der Verordnung separat abzustimmen. Maßnahmen wie das Client-Side-Scanning und die Altersverifikation wären dann zunächst vom Tisch, heißt es bei Heise Online. Aspekte wie die Vorschriften zum Risikomanagement für Plattformbetreiber, Berichts- und Löschpflichten und die geplante EU-Behörde könnten aber schon beschlossen werden.
Noch ist der Ausgang nicht absehbar, so will etwa EU-Innenkommissarin Ylva Johansson weiterhin den alten Entwurf durchsetzen. Somit befindet sich der Streit um die Chatkontrolle nun in der entscheidenden Phase.
Fabian und 
Jan-Frederik