Historische Geldstrafe und neue Social-Media-Vorgaben für Meta

„Eine Fehlklassifikationsrate von zehn Prozent bedeutet zunächst, dass jedes zehnte Kind oder jeder zehnte Jugendliche nicht geschützt wird. Zudem ist zu erwarten, dass sich schnell herumspricht, wie sich solche Systeme umgehen lassen. Aus einer statistischen Fehlerrate kann dann in der Praxis eine systematisch ausnutzbare Schwachstelle werden.“

„Das halte ich nicht für wirksamen Jugendschutz, sondern für einen Scheinschutz. Er birgt zudem die Gefahr, dass man glaubt, das Problem damit gelöst zu haben.“

„Sinnvoller wäre es, bei den schädlichen Inhalten und den Plattformen selbst anzusetzen. Insbesondere sollten Mechanismen reguliert werden, die Nutzer gezielt binden und ihnen dafür zunehmend extreme oder schädliche Inhalte zeigen. Plattformen müssen Verantwortung dafür tragen, welche Inhalte ihre Algorithmen verbreiten und verstärken.“

„Technisch gibt es grundsätzlich persönlichkeitsrechtsschonende Ansätze, etwa Anonymous Credentials, mit denen sich eine Eigenschaft wie ‚über 18‘ nachweisen ließe, ohne die eigene Identität offenzulegen. Solche Verfahren stehen in heutigen Ausweisdokumenten jedoch nicht flächendeckend zur Verfügung. Kurzfristig sehe ich daher keine Lösung, die zugleich zuverlässig, praktisch und persönlichkeitsrechtsschonend ist. Die diskutierten Fehlklassifikationsraten von bis zu zehn Prozent zeigen dieses Problem deutlich.“

„Entscheidend ist außerdem: Eine verpflichtende Alterskontrolle betrifft nicht nur Kinder und Jugendliche. Jeder Internetnutzer müsste sich gegenüber der Plattform als erwachsen ausweisen. Damit schaffen wir eine flächendeckende Identifikations- und Kontrollinfrastruktur, die weit über den eigentlichen Jugendschutz hinausreicht. Freie Kommunikation ist aber ein wichtiger Bestandteil einer freien demokratischen Gesellschaft. Eine solche Infrastruktur gefährdet Privatsphäre und freie Meinungsäußerung und schafft zugleich technische Möglichkeiten, die später für ganz andere Zwecke genutzt werden können, ohne dabei den versprochenen Schutz von Kindern und Jugendlichen zu erreichen.“

„Deshalb halte ich den grundsätzlichen Ansatz für falsch. Wir sollten nicht versuchen, einen technischen Zaun um schädliche Inhalte zu ziehen. Wir sollten die schädlichen Inhalte und ihre algorithmische Verstärkung regulieren und die Plattformen dafür in die Verantwortung nehmen. Gleichzeitig müssen wir Medienkompetenz fördern, bei Kindern ebenso wie bei Erwachsenen. Sie ist in Zeiten von Fake News, Deepfakes und manipulativen Algorithmen eine Grundvoraussetzung für eine funktionierende Demokratie.“

„Ich bin zwiegespalten, was den Vergleich angeht. Ich habe mir gewünscht, dass die Vorwürfe in einem juristischen Prozess aufgearbeitet und geprüft werden. Wenn festgestellt worden wäre, dass die Designmerkmale von Social-Media-Angeboten zur Sucht beitragen und die psychische Gesundheit schädigen, hätten daraus Konsequenzen gezogen werden müssen, die möglicherweise weitreichender gewesen wären als die aktuellen Ankündigungen, wie ein Verbot für unter-18-Jährige sowie eine deutlich höhere Geldstrafe.“

„Meine Befürchtung ist, dass es sich hierbei um einen faulen Kompromiss handelt, der in der Praxis nicht zu einer Änderung führt. Meta hat schon immer eine Altersgrenze der Angebote von 13 Jahren definiert, aber nie ernsthaft etwas dafür getan, dass diese Grenze wirklich eingehalten wird. In den aktuellen Ankündigungen sind bereits Schlupflöcher vorgesehen: Erstens soll die Nutzungsdauer begrenzt werden. Diese Grenze kann aber von Eltern deaktiviert werden. Zweitens sollen Push-Nachrichten während der Schulzeit abgeschaltet sein. Das gilt aber nicht für private Messages. Und drittens sollen Jugendliche die Möglichkeit haben, einen Feed zu wählen, der nicht dem Algorithmus unterliegt, und Autoplay deaktivieren können. Warum ist dies nicht automatisch voreingestellt – Opt-in statt Opt-out?“

„Insgesamt gehen die Veränderungen dennoch in die richtige Richtung und ich halte das Maßnahmenpaket für inhaltlich sinnvoll. Es bleibt nun abzuwarten, ob es mit Ernsthaftigkeit umgesetzt werden wird und welche Veränderungen sich dadurch ergeben. In jedem Fall hoffe ich auf eine unabhängige wissenschaftliche Evaluation.“

„Ich kann nachvollziehen, dass Meta in Richtung seiner Konzerninteressen argumentiert und diese Aussage macht (Meta sagt, der Vergleich sei kein Beweis für schädliche Effekte von Instagram und Facebook und Social-Media-Sucht sei keine anerkannte Krankheit; Anm. d. Red.). Eine Social-Media-Sucht ist weder im DSM noch im ICD zu finden (DSM und ICD sind offizielle Klassifikationssysteme für Erkrankungen; Anm. d. Red.). Allerdings sind diese Diagnosesysteme sehr träge und werden nur alle paar Jahre aktualisiert. In der Leitlinie zu Internetnutzungsstörungen in Deutschland ist die Soziale-Netzwerke-Nutzungsstörung als Erkrankung anerkannt. Die Mehrheit der Forschenden zweifelt auch nicht daran, dass es diese Störung gibt. Wenn man die Kriterien der offiziell anerkannten Computerspielstörung auf Soziale Medien überträgt, dann erfüllen 6,6 Prozent der Jugendlichen zwischen 10 und 17 Jahren in Deutschland diese Kriterien, 21,5 Prozent erfüllen sie fast und gelten als Risikogruppe.“

„Der Vergleich zeigt einerseits, dass die rechtliche Situation für den Meta-Konzern eng geworden ist – wenngleich die Vergleichssumme natürlich auch sehr weit von den ursprünglichen Forderungen der Bundesstaaten entfernt ist, die aber ohnehin niemand für realistisch gehalten hat. Im Ergebnis hat man von der Seite der Bundesstaaten dem Ziel, jetzt und sofort mehr Jugendschutz zu implementieren, Vorrang eingeräumt vor jahrelangen Rechtsstreitigkeiten mit ungewissem Ausgang.“

„Wenn ich mir die ausgehandelten Maßnahmen im Detail durchlese, bleiben andererseits aber auch Fragen, wie effektiv der gewonnene Jugendschutz in der Praxis sein wird. So betreffen viele zentrale Bedingungen des Vergleichs nur die Standardeinstellungen, können also geändert werden. Zwar bedarf es dazu – etwa zur Erweiterung der verschiedenen zeitlichen Limits – vorwiegend der Mitwirkung eines Elternteils, aber man kann sich gut vorstellen, was das im Familienalltag bedeutet: ‚Mama, ich brauch das unbedingt für die Hausaufgaben, kannst du mir das bitte kurz freischalten?‘. Außerdem gibt es zahlreiche Ausnahmen – etwa für ‚Longform Content‘ (also etwa abgespielte Videos) und Messaging.“

„Ich bin durchaus gespannt, ob hier im Zuge weiterer Verfahren die Bedingungen noch nachgeschärft werden, oder ob jetzt hier faktisch ein Standard gesetzt wurde, der weit über den konkreten Rechtsstreit hinaus Ausstrahlungswirkung hat – etwa auf eine mögliche künftige Regulierung in den USA, die von vielen gefordert wird, aber auch für die Situation in Europa unter dem Digital Services Act (DSA). Dessen Artikel 28 verpflichtet Anbieter von Online-Plattformen, ‚geeignete und verhältnismäßige Maßnahmen‘ zu ergreifen, um für ein hohes Maß an Privatsphäre, Sicherheit und Schutz von Minderjährigen zu sorgen und wird durch Leitlinien der Kommission konkretisiert.“

„Lösungen zur Altersverifikation bewegen sich immer in einem Spannungsfeld zwischen Zuverlässigkeit, Datenschutz und organisatorischem Aufwand. Hier müssen Entscheidungen getroffen werden, die jeweils einen Aspekt zu Lasten eines anderen Aspekts bevorzugen.“

„So sind insbesondere Methoden als zuverlässig in der Alterseinschätzung bekannt, die auf einer Profilbildung basieren. Hier werden Informationen über die Aktivitäten des Nutzers gesammelt und auf ein typisches Alter abgebildet. Das ist technisch gerade für Unternehmen wie Meta einfach umsetzbar, hinsichtlich des Datenschutzes aber natürlich zu hinterfragen.“

„Die Fehlerraten von zehn Prozent und drei Prozent, die gefordert werden, bewegen sich ungefähr im Rahmen dessen, was bei Verfahren zu videobasierten Gesichtsanalyse zu erwarten ist. Hier ist von Vorteil, dass die Fehlerraten nicht willkürlich zu interpretieren sind. Man hat eher Fehler, die um einen gewissen Faktor um das echte Alter herum abweichen. Eine 17 Jahre alte Nutzerin wird also eher auf 16 oder 18 geschätzt als auf 12 oder 30. Es werden also eher fast volljährige Nutzer als über 18 erkannt werden, nicht jedoch Kinder mit Erwachsenen verwechselt.“

„Die Fehlerrate sinkt dabei mit dem Alter. Das Alter von Kindern wird also genauer eingeschätzt als das von Erwachsenen. Allerdings muss man beachten, dass Videodaten das Gegenteil von Datenschutz und Datensparsamkeit sind. Hier kann man häufig auch Geschlecht, Ethnie, Gesundheit oder Zugehörigkeit zu einer Subkultur ableiten.“

„Die fehlende Ausweispflicht in den USA ist sicher ein Faktor, den man betrachten muss. Theoretisch kann sich in Deutschland jeder mit seinem Personalausweis und dessen Online-Ausweisfunktion als über 18 zu erkennen geben. In der Praxis ist die Nutzung des digitalen Personalausweises aber nur wenig verbreitet.“

„Es gibt in den USA Alternativen, insbesondere digitale Ausweise und Führerscheine auf dem Smartphone. Der größte Unterschied zwischen den USA und Europa dürfte eher in der Handhabe des Datenschutzes liegen. Viele Aspekte wie Tracking und Profilbildung sind in den USA deutlich freizügiger geregelt, als dies in der Europäischen Union der Fall ist.“

„Meiner Meinung nach sollte eine Altersverifikation immer einen Kompromiss zwischen Umsetzbarkeit und Datenschutz darstellen. Wallet-Verfahren, die eine anonyme und datensparsame Altersverifikation gegenüber Anbietern erlauben, sind hier immer zu bevorzugen, auch wenn sie einen größeren organisatorischen Aufwand bedeuten.“

„Der Vergleich ist der bislang deutlichste Beleg dafür, dass Plattformdesign – und nicht nur Inhalte – Gegenstand von Haftung sein kann. Auch in den USA, wo mittels Regulierung die vergangenen Jahre gar nichts klappt. Bemerkenswert ist, dass die vereinbarten Maßnahmen exakt jene Mechanismen adressieren, die in der Forschung seit Jahren als problematisch diskutiert werden: sichtbare Like-Zähler, nächtliche Nutzung, Push-Benachrichtigungen während der Schulzeit und algorithmische Feeds ohne Ausstiegsoption.“

„Ebenso wichtig ist die erstmals quantifizierte Fehlerquote bei der Altersverifikation, weil damit ein überprüfbarer Standard statt einer bloßen Absichtserklärung entsteht. Allerdings gibt es kein Schuldeingeständnis, keine gerichtliche Klärung der Kausalitätsfrage und keine unabhängige Evaluation, ob die Maßnahmen tatsächlich wirken. Die Regeln gelten zudem nur in den klagenden Staaten – ein Flickenteppich, der die Durchsetzung erschwert. Außerdem hat Meta angekündigt, in Europa diese Änderungen nicht durchzuführen, was eine große vertane Chance ist, mehr Kinderschutz online zu sichern.“

„Ein Vergleich schafft im Unterschied zu einem Urteil keinen Präzedenzfall und lässt die zentrale Frage offen, ob und wie sehr die Plattformgestaltung ursächlich für psychische Belastungen Jugendlicher ist. Meta kauft sich damit ein bisschen Rechtssicherheit und vermeidet weitere peinliche Befragungen und Sichtung interner Dokumente. Gleichzeitig zeigt die Summe, wie hoch das Unternehmen sein Prozessrisiko selbst einschätzt.“

„Ungewöhnlich ist die Klausel, die 30 Prozent der Zahlung an Auflagen für YouTube und TikTok koppelt: Meta macht sich damit zum Lobbyisten für branchenweite Regeln. Aus nachvollziehbarem Eigeninteresse, um Wettbewerbsnachteile zu vermeiden. Rechtlich hoch spannend: Regulierung wird so faktisch durch privatrechtliche Verhandlungen zwischen einem Konzern und Staatsanwaltschaften vorgezeichnet, ohne parlamentarische Debatte.“

„Für die EU-Kommission ist der Vergleich Rückenwind im laufenden DSA-Verfahren: Meta kann kaum noch argumentieren, die kritisierten Designmerkmale seien unverzichtbar, wenn es sie in den USA freiwillig abschaltet. Die Kommission sollte darauf drängen, dass die zugesagten Maßnahmen ohne Abstriche auch für europäische Nutzende gelten – Südkorea und Australien haben genau das bereits gefordert. Der DSA verlangt ohnehin ein hohes Schutzniveau für Minderjährige, und die Leitlinien der Kommission zu Artikel 28 nennen ähnliche Instrumente wie Zeitlimits und abschaltbare Empfehlungssysteme. Von YouTube und TikTok ist zu erwarten, dass sie zunächst auf bestehende eigene Jugendschutzfunktionen verweisen, aber unter erheblichen Druck geraten, da Meta ihnen die Verantwortung nun öffentlich zuschiebt. Es bleibt spannend.“

„Grundsätzlich ist es gut, Plattformunternehmen zur Verantwortung zu ziehen, auch gerichtlich. Aber: Der Vergleich ist für Meta ein guter Deal, denn die Jahresgewinne des Konzerns übertreffen die zu erbringende Summe sogar erheblich. Es handelt sich zudem nicht um eine Einmalzahlung, sondern eine Staffelung über zehn Jahre. Die versprochenen Maßnahmen sind angesichts des dokumentierten Schädigungspotenzials von Social Media sinnvoll, aber nicht besonders einschneidend. Durch den Vergleich ist Meta der gerichtlichen Feststellung des Abhängigkeitspotenzials seiner Produkte entgangen.“

„Bemerkenswert ist, dass 30 Prozent der Auszahlung davon abhängen, ob Konkurrenzfirmen wie TikTok und YouTube ähnliche Maßnahmen umsetzen. Das ist ungewöhnlich, da Meta auf diesen externen Faktor keinen Einfluss hat, am Ende aber dennoch finanziell profitieren könnte.“

„Ich gehe nicht davon aus, dass Meta oder andere Konzerne freiwillig weitere Jugendschutzmaßnahmen außerhalb der USA ergreifen werden. Der Vergleich ist nur ein Tropfen auf den heißen Stein.“

„Die EU sollte sich darauf konzentrieren, die bestehenden Vorgaben der Plattformregulierung, insbesondere des Digital Services Act (DSA), konsequent durchzusetzen und keine Angst vor hohen Bußgeldern und Sanktionen haben, die tief in das Geschäftsmodell der Anbieter eingreifen. Wir haben mit der Regulierungskategorie der systemischen Risiken ein zwar neues, aber aus meiner Sicht schlagkräftiges Instrument an der Hand. Der Schutz von Minderjährigen ist davon explizit umfasst. Positiv ist zudem, dass ein zunehmendes Bewusstsein für die Risiken sozialer Medien entsteht. Ich hoffe, dass sich dies auch in der Debatte um Künstliche Intelligenz und Large Language Models (LLMs) etabliert.“

„Das viel diskutierte Social-Media-Verbot für bestimmte Altersgruppen ist ein zweischneidiges Schwert: einerseits wird den Plattformen damit eine vulnerable Kund:innengruppe entzogen, andererseits sollte die Altersverifikation nicht zu noch mehr Überwachung im Internet oder gar zu einem Abbau von Jugendschutzmaßnahmen führen. Zuletzt: die negativen Auswirkungen sozialer Medien treffen auch Erwachsene.“

„Die Hauptbedenken bezüglich der Altersverifikation werden in einem Artikel des Online-Nachrichtenportals TechCrunch bereits diskutiert: Sie umfassen vor allem Effektivität und Datenschutz. Falls Meta auf ein bereits existierendes Verfahren zur Altersverifikation aufbaut, zeigen folgende Quellen deren Probleme: [1] [2] [3].“

„Eine konkrete Beurteilung der vorgeschlagenen Altersverifikations-Maßnahmen ist mit den vorliegen Informationen schwierig. Zum Beispiel ist unklar was ‚best effort‘ bei Effektivität (Seite 14) meint. Ähnlich unklar ist bezüglich Datenschutzes, welche Daten genau gesammelt werden.“

„Der Unterschied liegt im Datenschutz. Die Anforderungen der Europäischen Datenschutzgrundverordnung (DSGVO) an Systeme zur Altersverifikation sind deutlich höher als die Datenschutzanforderungen in den USA. Es scheint auch in Europa noch keine zufriedenstellende technische Lösung zu geben [5].“

„Vor kurzem wurden im Vereinigten Königreich [4] und in Frankreich [5] bedeutende Vorschriften zur Altersüberprüfung verabschiedet, sodass wir bereits eine gewisse Vorstellung davon haben, wie dies in Deutschland aussehen könnte. Einerseits gelten in der Europäischen Union (EU) strengere Datenschutzvorschriften und (im Falle Frankreichs) die Auswahl der Mechanismen zur Altersüberprüfung werden nicht den Plattformen selbst überlassen. Sondern sie müssen von einer Datenschutzaufsichtsbehörde genehmigt werden. Allerdings stößt dies (wiederum in Frankreich) bereits auf rechtliche Probleme. Beide Maßnahmen haben zudem große Kontroversen und Gegenreaktionen ausgelöst, obwohl sie den Schutz der Privatsphäre versprechen.“

„Auch die EU hat einen Vorschlag gemacht, wie Altersverifikation gelingen kann [5]. Dieser soll auch mit den EU Digital Identity Wallets kompatibel sein. Allerdings gab es diesbezüglich Kritik und Kontroversen. Kurz gesagt schien der Vorschlag eine mangelhafte und überstürzt umgesetzte Lösung zu sein.“

„Technologien wie Zero-Knowledge-Beweise könnten eine technische Lösung zur datenschutzkonformen Altersverifikation sein. Wie jedoch die EU-Altersverifizierungs-App zeigt, ist dies keine ausreichende Lösung, und Nichtverknüpfbarkeit und Effektivität bleiben als Probleme bestehen.“

Dieses Statement entstand in Zusammenarbeit mit Yorick Last von der Universität Paderborn.

„Die Bewertung des Vergleichs fällt gemischt aus. Positiv ist, dass es jetzt schnelle Verbesserungen für den Schutz von Minderjährigen auf Social Media geben wird und ein langjähriges Gerichtsverfahren vermieden wurde. Wichtiger als die Höhe der Geldsumme des Vergleichs sind die konkret vorgesehenen Maßnahmen: standardmäßige tägliche Zeitlimits, nächtliche Sperren, Deaktivierung von Push-Nachrichten während der Schulzeit.“

„Es ist wichtig, genau hinzuschauen. Denn das eigentliche Problem, das süchtig machende Design der Algorithmen, wird nicht adressiert. Problematische Funktionen wie das automatische Abspielen von Videos (Autoplay) und das unendliche Scrollen (Infinite Scroll) bleiben standardmäßig eingeschaltet. Besser wäre es, wenn diese Features standardmäßig deaktiviert würden.“

„Bedauerlich ist auch, dass durch den Vergleich viele wichtige Rechtsfragen ungeklärt bleiben. Offen bleibt insbesondere, inwieweit Sektion 230 des Communications Decency Act die Anbieter von Social-Media-Plattformen auch dann schützt, wenn die Kläger nicht schädliche Inhalte, sondern das süchtig machende Design der Plattformen angreifen.“

„In den USA ist es bisher nicht gelungen, dass der Gesetzgeber klare Vorgaben für Social-Media-Anbieter formuliert. Diese Lücke wird jetzt jedenfalls teilweise durch das Gerichtsverfahren und den Vergleich mit Meta geschlossen. Der Vergleich soll hier also die fehlende Regulierung ersetzen.“

„Dieses Modell der ‚regulation by litigation‘ (gesellschaftliche Veränderungen, die nicht etwa durch neue Gesetze, sondern durch Rechtsstreitigkeiten erzielt werden; Anm. d. Red.) ist problematisch, da der Vergleich erst einmal nur für Meta gilt. Ob auch andere Anbieter wie TikTok und YouTube das Modell übernehmen, bleibt abzuwarten.“

„Ein weiterer Punkt ist, dass der Vergleich nur Social Media betrifft. Mindestens ebenso problematisch ist die Nutzung von AI Companions (Sprachmodelle, die so gestalten sind, dass sie ein freundschaftliches Verhältnis vorgaukeln; Anm. d. Red.) durch Kinder und Jugendliche. Hier drohen noch größere Risiken, insbesondere emotionale Abhängigkeiten. Hier rollt schon die nächste Klagewelle an.“

„Auf den ersten Blick gibt es viele Gemeinsamkeiten zwischen den Maßnahmen, zu denen sich Meta jetzt verpflichtet hat, und den Vorgaben des Digital Services Act (DSA) für den Schutz von Minderjährigen. Im Detail geht der Vergleich sogar noch weiter: Der DSA sieht keine täglichen Zeitlimits und nächtliche Sperren vor, sondern verlangt nur ‚geeignete und verhältnismäßige Maßnahmen‘ (Art. 28 DSA) zum Schutz von Minderjährigen. Konkretere Vorgaben finden sich zwar in den Leitlinien der EU-Kommission zu Artikel 28 des DSA von Juli 2025, die sind aber nicht rechtlich verbindlich.“

„Im Juli 2026 hat die EU-Kommission vorläufig festgestellt, dass Instagram und Facebook gegen die Vorgaben des Digital Services Act zum Minderjährigenschutz verstoßen. Der Vergleich in den USA dürfte den Ausgang dieses Verfahrens beeinflussen. Meta hat gezeigt, dass es eine Reihe von Möglichkeiten gibt, den Schutz von Minderjährigen zu verbessern. Die spannende Frage ist, ob Meta in der EU auch problematische Funktionen wie Autoplay und Infinite Scroll deaktiviert, wie es die EU-Kommission gefordert hat.“

„Der Vergleich dürfte darüber hinaus auch Auswirkungen auf den für November 2026 erwarteten Vorschlag der EU-Kommission für einen Digital Fairness Act (DFA) haben. Es würde mich nicht überraschen, wenn der DFA konkrete Maßnahmen zum Schutz von Minderjährigen vorsieht, die ganz ähnlich aussehen wie das, wozu sich Meta jetzt verpflichtet hat.“