EU verlängert freiwillige Chatkontrolle

„Dass der Rat einen Standpunkt in erster Lesung beschlossen hat, ist für sich genommen ein regulärer Schritt im ordentlichen Gesetzgebungsverfahren und rechtlich nicht ungewöhnlich.“

„Juristisch umstritten ist vor allem die beschleunigte Behandlung im Parlament: Über ein Dringlichkeitsverfahren wird der Text in zweiter Lesung so gestellt, dass er als angenommen gilt, sofern ihn nicht eine absolute Mehrheit von Abgeordneten ablehnt. Kritiker sehen darin zu Recht einen möglichen Verstoß gegen die Geschäftsordnung. Es handelt sich im Kern um eine Neuauflage der bekannten Interimsregelung und nicht um einen neu geschriebenen Gesetzestext. Die Eile betrifft somit weniger mögliche handwerkliche Fehler. Sie betrifft vielmehr die demokratische Legitimation und den knappen Raum für Debatten und Einwände, etwa von der Datenschutzaufsicht. Kommt am 9. Juli keine ablehnende Mehrheit zustande, gilt der Vorschlag als beschlossen.“

„Lässt das Parlament den Vorschlag passieren, stellt er im Wesentlichen den alten Rechtszustand wieder her: Anbieter dürfen unverschlüsselte Nachrichten, E-Mails und Bilder automatisiert auf bekanntes Missbrauchsmaterial und auf Anbahnungsversuche gegenüber Kindern durchsuchen.“

„Im Alltag ändert sich für die meisten Menschen zunächst wenig Sichtbares. Denn die Scans laufen im Hintergrund und Ende-zu-Ende-verschlüsselte Dienste wie Signal werden ausdrücklich nicht angetastet. Außerdem sind Sprach- und Audiokommunikation ausgenommen.“

„Datenschutzrechtlich ist es gleichwohl ein erheblicher Eingriff: Es handelt sich um eine Ausnahme vom Schutz der Vertraulichkeit der Kommunikation nach der ePrivacy-Richtlinie. Diese Ausnahme kann auch besondere Kategorien personenbezogener Daten und die Weitergabe an Stellen in Drittstaaten wie den USA berühren.“

„Die Verordnung sieht dafür zwar Schutzmechanismen vor. Etwa eine verpflichtende menschliche Prüfung vor jeder Meldung, Beschwerde- und Klagemöglichkeiten sowie das ausdrückliche Verbot, Verschlüsselung zu schwächen. Der grundsätzliche Einwand bleibt jedoch, dass hier die Kommunikation aller ohne konkreten Anlass vorsortiert wird. Fehlalarme wie harmlose Familien- oder Urlaubsfotos können Unbeteiligte in Verdacht bringen.“

„Für die großen Plattformen und andere Anbieter ist Rechtssicherheit tatsächlich von erheblicher Bedeutung. Nicht zuletzt deswegen, weil dahinter auch Investitionen stecken: Mit dem Auslaufen der Interimsverordnung entfiel die eindeutige Grundlage, Daten freiwillig zu scannen, ohne mit dem Datenschutzrecht in Konflikt zu geraten. Eine Neuregelung stellt diese Klarheit wieder her.“

„Genutzt werden Verfahren der Chatkontrolle vor allem von Meta, Google und Microsoft. Der weit überwiegende Teil der Hinweise stammt seit Jahren von Meta. Ob die Konzerne das Scannen ohne Neuregelung tatsächlich eingestellt hätten, ist umstritten. Es ist definitiv nicht auszuschließen, dass große US-Anbieter dennoch weiterscannen würden.“

„Mit dieser freiwilligen Regelung ist die verpflichtende Chatkontrolle aber keineswegs vom Tisch. Denn sie ist rechtlich ein eigenes Vorhaben, das weiter im Trilog verhandelt und politisch vorangetrieben wird.“

„Hier ist die Faktenlage weniger eindeutig, als es oft dargestellt wird. Das ist bei überwachungspolitischen Gesetzesvorhaben schon in der Vergangenheit nicht selten der Fall gewesen. Zum Beispiel mit Blick auf die Vorratsdatenspeicherung der Europäischen Union.“

„So verweisen die Befürworter regelmäßig darauf, dass solche Meldungen häufig der erste Anhaltspunkt sind, um laufenden Missbrauch zu beenden und bekanntes Material zu entfernen. Kritiker halten dagegen, dass gemeldetes Material viele Dubletten enthält und die Trefferqualität nur gering ist.“

„Es fehlen weitgehend belastbare, unabhängige Zahlen dazu, wie viele Kinder durch das freiwillige Scannen konkret identifiziert und wie viele Täter dadurch verurteilt wurden. In der Gesamtschau ist für den Abgleich bekannten Materials per Hashing (bekannten illegalen Inhalten wird ein Code zugeordnet, über den etwa das Bild identifiziert werden kann; Anm. d. Red.) ein gewisser Nutzen plausibel. Pauschale Wirksamkeitsbehauptungen sind aber derzeit nicht solide belegt. Und beim Aufspüren bislang unbekannter Inhalte oder von Grooming (Kinder werden online mit Missbrauchsabsicht kontaktiert; Anm. d. Red.) steigen sowohl Fehlerquoten als auch Grundrechtsrisiken deutlich.“

„Formal bewegt sich das Vorgehen im Rahmen des Gesetzgebungsverfahrens nach Artikel 294 des Vertrags über die Arbeitsweise der Europäischen Union (EU). In zweiter Lesung gilt der Ratsstandpunkt als angenommen, wenn das Parlament ihn nicht mit absoluter Mehrheit ablehnt. Die Art und Weise der Wiedereinführung des unveränderten Vorhabens muss aber mindestens für hochgezogene Augenbrauen bei den Parlamentariern sorgen. Es wurde in erster Lesung vom Parlament abgelehnt und nun unverändert, aber im Eilverfahren kurz vor der Sommerpause in zweiter Lesung wieder eingebracht. Üblich ist ein solches Vorgehen nicht.“

„Was bei dieser Eile leidet, ist vor allem die Verfahrensqualität. Checks and Balances könnten so entfallen. Dazu zählen etwa eine Stellungnahme der EU-Datenschutzaufsicht und wichtige Ausschussberatungen, Anhörungen sowie eine grundrechtliche Folgenabschätzung. Die EU-Datenschutzaufsicht hat im bisherigen Verfahren keinen Hehl daraus gemacht hat, dass sie die erneute Ausnahme von der ePrivacy-Richtlinie äußerst kritisch sieht.“

„Da heute keine absolute Mehrheit der Gegner zustande gekommen ist, müssen nun noch die Mitgliedstaaten im Europäischen Rat für das Vorhaben stimmen. Parallel und unabhängig von der Abstimmung heute laufen die Trilog-Verhandlungen zur CSA-Verordnung weiter, bei der es auch immer wieder um eine dauerhafte und verpflichtende ‚Chatkontrolle 2.0‘ geht.“

„Für die meisten Online-Nutzer:innen ändert sich im Alltag wenig Sichtbares. Die beschlossene Regelung, die bereits von 2021 bis April 2026 das freiwillige Scannen von Nachrichten durch die Plattformanbieter von der ePrivacy-Richtlinie ausnahm, betrifft unverschlüsselte Kommunikation wie E-Mail-Dienste, Direktnachrichten oder Dateien in Cloud-Speichern. Kommunikationsinhalte von Ende-zu-Ende-verschlüsselten Diensten wie Signal bleiben unberührt.“

„Für die Endnutzer machen sich flächendeckende Scans der Nachrichteninhalte und gespeicherten Dateien faktisch nicht bemerkbar. Kritisch bleibt aber die Fehleranfälligkeit der eingesetzten Erkennungssysteme. Falsch-positive Treffer können dazu führen, dass etwa legale private Bilder im schlimmsten Fall bei Meldestellen landen.“

„Auch grundrechtlich ist die Entscheidung folgenreich. Denn sie erlaubt erneut ein anlassloses, automatisiertes Durchsuchen privater Inhalte durch die Plattformanbieter. Unabhängig davon, für wie gerechtfertigt und nötig man diesen Ansatz hält, stellt das systematische Durchleuchten von Nachrichten und Dateien stets einen Eingriff in die Vertraulichkeit der Kommunikation und das Recht auf Datenschutz dar.“

„Formen staatlich veranlasster Massenüberwachung hat der Europäische Gerichtshof (EuGH) bislang aber nur unter engen Voraussetzungen akzeptiert. Dass privaten Anbietern bei der ‚Chatkontrolle 1.0‘ etwas gesetzlich erlaubt wird, was staatlichen Akteuren wohl nicht möglich wäre, erscheint insoweit problematisch.“

„Für die Anbieter ist die Entscheidung tatsächlich relevant. Denn seit dem Auslaufen der Verordnung Anfang April scannen die meisten Plattformanbieter nach eigenen Angaben weiter – nunmehr ohne klare europarechtliche Ausnahmeregelung. Sie bewegen sich damit in einem datenschutzrechtlichen Graubereich, der erhebliche Haftungsrisiken für die Anbieter birgt. Die Anbieter wünschen sich hier eine verlässliche rechtliche Grundlage.“

„Die verpflichtende ‚Chatkontrolle 2.0‘ ist mit der Abstimmung heute keineswegs vom Tisch. Die CSA-Verordnung wird derzeit im Trilog verhandelt. Nach der Sommerpause wird es dort weitergehen.“

„Wir wissen, dass durch das massenhafte Scannen von privater Kommunikation und Cloud-Speichern eine große Anzahl von Missbrauchsdarstellungen identifiziert werden kann. Um das entsprechende Material löschen und gegen die Straftäter vorgehen zu können, erscheint dieser Ansatz effektiv und sinnvoll. Er begegnet aus rechtlicher Sicht aber grundsätzlichen Verhältnismäßigkeitsbedenken, weil dafür das Durchleuchten privater Kommunikationsräume aller Bürgerinnen und Bürger nötig ist.“

„Guter Kinderschutz steht nicht automatisch über der Vertraulichkeit von Kommunikation. Hier sind umfassende Abwägungen der widerstreitenden Rechtspositionen durchzuführen. Ein milderes Mittel könnte sein, gezielte Aufdeckungsanordnungen bei konkreten Verdachtsmomenten zu erlassen, eindeutig identifizierbares, bekanntes Material zu löschen und die Ermittlungsbehörden in diesem Bereich besser auszustatten. Je zielgerichteter das Ermittlungsinstrument, desto eher scheinen Eingriffe in die Privatsphäre, in das Recht auf Datenschutz und die vertrauliche Kommunikation von Verdächtigen gerechtfertigt.“