Zuckerbergs Pläne zur Moderation von Inhalten bei Meta

„Falschinformationen sind nur durch den Digital Services Act (DSA) verboten, wenn sie rechtswidrig sind. Der DSA verpflichtet Plattformen darauf, rechtswidrige Inhalte zu löschen und darüber hinaus Risikobewertungen abzugeben hinsichtlich der Wirkung der internen Regeln und Praktiken auf (unter anderem) demokratische Willensbildungsprozesse. Die Meta-Produktfamilie kann auf Community Notes setzen, das ist nicht verboten, auch wenn der DSA eigentlich externe Expertise unterstützt, wie etwa die externen Hinweisgeber, die national zertifiziert werden können. Faktisch hat aber die Abschaffung des Fact-Checkings zumindest bei Twitter/X zu mehr Hassrede, Desinformation, Frauenfeindlichkeit und so weiter geführt. Daher kann bezweifelt werden, inwiefern hier realistisch davon ausgegangen werden kann, dass ein DSA-konformer Moderationszustand durch Community Notes alleine und durch den bewussten Rückbau von automatisierter Filterung überhaupt erreicht werden kann.“

„Es drohen empfindliche Geldstrafen, allerdings gilt auch hier der Spruch: Geldstrafen bedeuten, es ist erlaubt, wenn du reich genug bist. Und das ist Zuckerberg, auch wenn er im Gegensatz zu Musk sein Hauptgeschäft in Social Media hat. Eine Sperrung wäre theoretisch denkbar, ist aber nicht realistisch.“

„Das ist ein Kniefall vor Trump und ein Versuch, das mehr schlecht als recht funktionierende Modell der Community Notes von Twitter/X zu kopieren. Es ist traurig, dass Meta ohne ersichtlichen Grund ein weitgehend gut funktionierendes System der Inhaltemoderation durch externe Fact-Checker, das über Jahre aufgebaut wurde, nun beendet. Externe Expertise ist wichtig und gerade im DSA sind externe Stakeholder auch vorgesehen. Wir haben hier einen klaren Rückschritt in eine Zeit des ‚Anything goes‘. Zuckerberg scheint sich als Tiktok-Alternative beliebt machen zu wollen. Dem Unternehmen droht ja die Sperre in den USA.“

„Ähnlich wie bei Twitter/X sehe ich größere Risiken auf die Meta-Produktfamilie in der EU zukommen. Ob die angekündigten Maßnahmen den DSA-Pflichten entsprechen, ist zu bezweifeln. Jedenfalls müsste die Kommission rasch eine neue Risikobewertung hinsichtlich systemischer Risiken einfordern, da sich nun sehr eindeutig die Vorzeichen geändert haben.“

„Zuckerberg irrt natürlich, wenn er davon spricht, zu viel ‚Zensur‘ werde geübt. Das stimmt nicht. Zensur können Staaten üben, nicht Unternehmen. Wenn er meint, dass die Regeln zu eng angewandt worden sind, dann hätte er die Anwendung verbessern können, indem er mehr Ressourcen in die Content-Moderation investiert. Aber Fact-Checking zu beenden und zunehmend auf Automatisierung zu setzen, ist der falsche Weg. Symbolisch bedeutet dies ein Einschwenken auf die Musk-Trump-Linie. Dazu passt auch die Versetzung der Content-Moderations-Abteilung vom – für amerikanische Ohren ‚liberalen‘ – Silicon Valley ins Trump-Kernland Texas. Kein guter Tag für die menschenrechtsorientierte Moderation von Online-Inhalten. Aber aus Zuckerbergs Sicht ein gelungenes Vorbereiten der Inauguration von Trump.“

„Der DSA richtet sich gegen die Verbreitung von Falschinformationen und Hassrede; dieses gesetzlich vorgegebene Ziel wird nun durch Meta ganz offensichtlich aufgegeben. Falschinformationen und Hassrede sind beim neuen Modell bei Meta künftig nicht nur möglich, sondern sogar zu erwarten. CEO Zuckerberg sagt selbst, dass nunmehr mehr problematische Inhalte in das Netz gelangen und dort verbleiben. Damit aber kommt Meta den DSA-Verpflichtungen nicht nach. Im Moment soll das nur für die USA gelten, aber da wohl kein effektives Geoblocking geschieht und auch bisher Meta seine Produkte weltweit möglichst ähnlich ausgestaltet, wird es absehbar auch in Europa und im Rest der Welt zu ungefilterten Fehlinformationen bei den Meta-Produkten kommen.“

„Weil Meta ein auf Maximierung des Gewinns ausgerichtetes Unternehmen ist, ist vermutlich eine der wirkungsvollsten Sanktionen, wenn bei Verstößen die möglichen Bußgelder verhängt und – ganz wichtig – auch durchgesetzt werden. Immerhin erlaubt der DSA Bußgelder in Höhe von bis zu sechs Prozent des weltweiten Jahresumsatzes des Plattformbetreibers – das ist auch für Meta nicht beiläufig. Besonders wichtig ist, ganz unabhängig von der Regulierung, dass diejenigen Nutzer/innen Meta-Dienste spätestens jetzt verlassen und meiden, die eine rational orientierte, faktenbasierte Information über soziale Netzwerke wollen.“

„Faktenchecks funktionieren unter bestimmten Bedingungen auf der Ebene des Individuums; in dem Sinne, dass sie Fehlwahrnehmungen korrigieren können. Diese Effekte hängen jedoch stark von einer Reihe weiterer Kontextvariablen ab. Zum Beispiel kann es wichtig sein, wie die Faktenchecker wahrgenommen werden. Zum anderen erweisen sich demografische Merkmale und ideologische Überzeugungen oft als resistent gegen Korrekturen.“

„Wie überzeugend ein Faktencheck ist, hängt also auch vom Publikum ab und davon, wie aufgeschlossen es ist. Ebenso hängt es von den Angeboten ab: Sind die Institutionen vertrauenswürdig, die diese Checks durchführen? Die durch digitale Medien bedingte Informationsflut macht es sehr schwer bis unmöglich, mit Hilfe von Faktenchecks Schritt zu halten. Und wer etwas nachweislich Falsches glauben möchte, kann im ‚High-Choice-Media-Environment‘ schnell Bestätigungen für die eigenen Überzeugungen finden.“

„Wir sollten hier aber auch unterscheiden zwischen der grundsätzlichen Bedeutung von Fakten für den öffentlichen Diskurs und der Praxis der Faktenchecks wie von Facebook bisher implementiert und nun abgebrochen – deren gesamtgesellschaftliche Effektivität man wohl eher bezweifeln darf. Eher wird durch die angekündigten Moderierungsänderungen dieser Informationsraum nun wohl noch toxischer werden, als er es für viele User:innen jetzt bereits schon ist.“

„Angesichts monopolartiger oder kartellartiger Geschäftsmodelle in der US-amerikanischen und globalen Tech-Branche wäre es absurd, zu dem Schluss zu kommen, dass ‚das Problem‘ Überregulierung oder zu viele Faktenchecks seien.“

„Viel wichtiger ist es zu betonen, dass wir uns als demokratische Gesellschaft zunehmend nicht mehr damit beschäftigen, wie Institutionen der Öffentlichkeit durch demokratisch legitimierte Regeln gestaltet und reguliert werden. Stattdessen setzen de-facto-Oligarchen ihre eigenen Interessen durch: Ein Oligarch reduziert Deliberation via Twitter zu einem Scherbenhaufen und bedroht nun Wikipedia, ein anderer schreibt der Washington Post vor, was sie (nicht) drucken darf, der nächste verkündet quasi unilateral Entscheidungen, die die Kommunikation und Wahrnehmung von Millionen von Menschen direkt oder indirekt beeinflussen. Es ist bezeichnend, wie schnell wir uns von der Frage, wie der Kongress, die Federal Communications Commission (FCC) oder die EU regulieren, hin zur Frage bewegen, was Trump, Zuckerberg, Musk oder Bezos wohl denken und wollen. Was können da ‚Community Notes‘ noch groß ausrichten?“

„Es wäre fatal, diese Argumentationsweise gelten zu lassen oder gar zu übernehmen. Ein vermeintlicher ‚Bias‘ der Faktenchecker gegenüber rechts-konservativen Positionen in den USA ist vor allem darauf zurückzuführen, dass in diesem Bereich (der größer ist als nur Trump und auch einen erheblichen Teil der Mediensphäre umfasst) schlichtweg deutlich mehr Unwahrheiten zirkulieren als in anderen Teilen der Netzöffentlichkeit.“

„Wer dies aufzeigt, ist vergleichbar mit einem Schiedsrichter, der öfter gegen eine Seite pfeift, weil diese häufiger foult. Die Frage lautet daher: Warum foult eine Seite mehr? Die offensichtliche Antwort lautet: Weil diese Seite stärker aus ideologischem Interesse agiert und Fakten hierbei weniger Gewicht haben.“

„Genau diese Seite trägt das Argument eines ‚Bias‘ vor – nicht aufgrund der Faktenlage, sondern aus ideologischer Motivation. Sie wird sich niemals davon überzeugen lassen, dass es keine Voreingenommenheit der Faktenchecker gegen rechts gibt, da dieses Argument nicht auf Fakten, sondern auf motivierter Wahrnehmung beruht.“

„Es gibt hierzu Vorläufer, wie zum Beispiel die gezielte Strategie von rechts außen, ‚die Medien‘ pauschal als zu links abzustempeln, in der Hoffnung, dass die eigene Seite von dieser Kritik profitiert. Im Englischen wird diese Strategie als ‚working the refs‘ bezeichnet – also die Schiedsrichter zu beeinflussen.“

„Fakten können nur dort Wirkung entfalten, wo Institutionen für tatsachenbasierte Informationen empfänglich sind und auf Basis dieser Fakten Macht ausgeübt wird. Dies ist das Grundprinzip einer demokratischen Öffentlichkeit, die durch diverse ‚wahrheitssuchende‘ Institutionen geprägt ist: Wissenschaft, Journalismus, aber auch Gerichte, parlamentarische oder öffentliche Debatten. All dies sind diskursive Arenen, in denen der Anspruch besteht, dass Fakten etabliert werden und Einfluss auf Entscheidungen haben. Wenn der politische Entscheidungsapparat diese Prinzipien nicht mehr hochhält oder – schlimmer noch – aktiv unterminiert, dann funktioniert der Staat nach anderen Prinzipien: Sein Handeln folgt dann ideologischen, parteipolitischen oder privaten Interessen einer herrschenden Elite.“

„Ich interpretiere Zuckerberg so, dass er einen Wandel erkannt hat und Meta sich nun dem Diktat neuer Machtverhältnisse unterwirft. Sein marktwirtschaftliches Kalkül zielt darauf ab, wie die kommenden Regularien der US-Exekutive funktionieren und welche Parameter sie für Metas Geschäftsmodell setzen werden. Darum geht es hier. Das Einstampfen der Faktenchecks bietet hierfür aber natürlich die Symbolik: weg von Wahrheit, hin zur Macht.“

„Man kann hoffen, dass dies ein US-amerikanisches Phänomen bleibt und die EU sich auf dieses Spiel nicht einlässt. Doch auch hierzulande mehren sich Kräfte, deren Absicht es ist, die Arenen der Faktenfindung zu beschränken.“

„Viele Studien zeigen, dass Faktenchecks durchaus funktionieren: Menschen akzeptieren im Großen und Ganzen die korrigierten Inhalte und lassen sich von faktenbasierten Argumenten überzeugen [1] [2]. Allerdings sind diese Effekte in der Regel eher schwach – besonders, wenn Menschen misstrauisch gegenüber journalistischen Medien sind oder die Falschmeldung vorher geglaubt haben. Hinzu kommt, dass die Korrektur einer Falschmeldung naturgemäß später kommt und weniger Menschen erreicht als die ursprüngliche Nachricht. Community Notes zeigen ebenfalls positive Effekte und können eine nützliche Ergänzung sein [3]. Faktenchecks und Community Notes sind aber nur Bausteine in der Auseinandersetzung mit falschen und irreführenden Inhalten im Netz: Sie helfen, sind aber kein Allheilmittel.“

„Content-Moderation wird immer ‚scheitern‘, weil es zu viele Inhalte gibt, menschliche Moderationsteams nicht hinterherkommen und automatisierte (KI-)Anwendungen nicht gut genug sind. Es ist also durchaus ein Problem, dass zuweilen Inhalte zu Unrecht geblockt werden, genauso wie Inhalte immer wieder zu Unrecht nicht geblockt werden. Es ist daher eine grundlegende Frage, wie wichtig Plattformen es nehmen, problematische Inhalte korrekt zu identifizieren und zu blocken. Zuckerberg scheint sich hier entschieden zu haben: Es sollen mehr politische Inhalte ausgespielt und diese weniger stark moderiert werden, insbesondere bei den Themen Einwanderung und Gender. Das wird voraussichtlich mehr Hassrede und Falschinformationen zur Folge haben, auch wenn diese Regelung zunächst nur auf die USA begrenzt zu sein scheint. Das Ersetzen von Faktenchecks durch Community Notes ist in dieser Hinsicht dann eher eine Randnotiz.“

„Fact-Checking und Content-Moderation greift in den USA tatsächlich eher konservativ-republikanische Inhalte auf beziehungsweise moderiert entsprechende Accounts – diese teilen aber auch häufiger Fehlinformationen [4]. Im Kontext des Statements von Zuckerberg halte ich die Aussage aber tatsächlich für eine Ausrede. Er dient sich recht offensichtlich der Trump-Regierung an und erfüllt Trumps Forderung nach einem laxeren Umgang mit Inhalten, um weitere Regulierung zu vermeiden. Das zeigt auch die Aufnahme von Trump-Vertrauten ins Management von Meta sowie die absurde Ankündigung, die Content-Moderator:innen von Kalifornien nach Texas umziehen zu lassen.“

„Das kann man kaum abschätzen. In jedem Fall zeigt sich, dass journalistische Standards für Meta im Zweifel wenig Bedeutung haben. Fact-Checking ist professionelle Arbeit mit Routinen und Mechanismen zur Qualitätssicherung, das kann nicht gleichwertig durch Laien ersetzt werden. Bei aller berechtigter Kritik am Journalismus ist es doch eine große Errungenschaft, dass sich Menschen professionell mit dem Sammeln, Prüfen und Aufbereiten von gesellschaftlich relevanten Informationen beschäftigen. Niemand möchte von einem Team medizinisch interessierter Laien operiert werden – dieselbe Ernsthaftigkeit sollten wir bei politischen Informationen an den Tag legen. Hier wird aber ein Grundproblem deutlich: Weite Teile unseres gesellschaftlichen Diskurses finden auf privaten, US-amerikanischen Online-Plattformen statt, was unsere Gesellschaften zu einem gewissen Grad der Willkür der Plattformbetreiber ausliefert.“

„Metaanalysen zeigen insgesamt sehr kleine bis gar keine Auswirkungen von Faktenchecks auf Fehlwahrnehmungen. Dies, obwohl eher Studien veröffentlicht werden, die Effekte finden (sogenannter Publication Bias). Zudem handelt es sich meist um experimentelle Studien. In der freien Wildbahn sind die Effekte vermutlich kleiner als im Experiment, weil sich Menschen hier den Faktenchecks leichter entziehen können.“

„Korrigierende Wirkungen scheinen eher bei Personen aufzutreten, die mit der Quelle der Faktenchecks sympathisieren. Besonders gering sind die Wirkungen bei jenen Personen, die relativ viel Misinformation konsumieren und glauben. Dies vor allem, weil es sich in der Regel um Individuen mit einem gefestigten Weltbild handelt, die Misinformation gezielt aufsuchen. Amerikanische Studien zeigen, dass politisch rechtsstehende Individuen Faktenchecker eher als feindselig empfinden und Faktenchecks daher hier auch weniger wirken.“

„Interessant ist auch, dass manche Menschen eine Belehrung durch Faktenchecks nicht zu mögen scheinen – selbst, wenn sie in einem Experiment ihre Fehlwahrnehmung korrigieren, entwickeln sie zugleich eine negativere Einstellung gegenüber dem Absender des Faktenchecks oder gegenüber Medien generell.“

„Der Forschungsstand zur Wirkung der Community Notes ist noch weniger ausgeprägt. Es gibt Hinweise darauf, dass die Akzeptanz von Faktenchecks durch die Community relativ groß ist, weil diese als ausgewogener empfunden wird. Ähnlich wie bei professionellen Faktenchecks zeigen experimentelle Studien, dass Community Notes zu (begrenzten) Korrekturen von Fehlwahrnehmungen führen können. Auswirkungen auf Einstellungen oder Verhalten sind in beiden Fällen nicht wahrscheinlich. Beide Formen von Faktenchecks – professionelle und Community Notes – hinken viraler Misinformation zeitlich hinterher, was ihre Wirksamkeit reduziert.“

„In den USA gibt es Ansätze einer engeren Regulierung von Social Media – von links wie auch von rechts, vor allem auf der Ebene der Bundesstaaten. Viele dieser Initiativen beschäftigen derzeit die Gerichte. Es ist noch nicht klar, ob sich diese Vorstöße durchsetzen werden. Wahrscheinlich ist dies nicht, da die Meinungsfreiheit in den USA sehr umfassend geschützt ist, und die rechtliche Verantwortlichkeit von Plattformen für die dort veröffentlichten Inhalte sehr begrenzt ist.“

„In der Europäischen Union hat sich die Regulierungsdichte zuletzt deutlich erhöht, etwa mit dem Digital Services Act (DSA) und dem Digital Markets Act (DMA). Aus Sicht der Plattformen sind diese Regulierungen noch mit viel Unsicherheit verbunden. Was in der Praxis genau wie umgesetzt werden muss, ist oft unklar. Vertreter der EU, wie vormals Thierry Breton, agierten hier wenig glücklich, weil sie öffentlich Forderungen formulierten, die kaum durch den DSA gedeckt sind. Das erhöht die politische Unsicherheit.“

„Metas Wechsel im Fact-Checking-System weg von professionellen Anbietern hin zu Community Notes ist von diesen Regulierungsansätzen aber wenig berührt. Allenfalls muss Meta nun berichten, inwiefern sich durch das neue System Risiken für die europäische Öffentlichkeit ergeben könnten. Nach wie vor ist Meta verpflichtet, illegale Inhalte zu entfernen.“

„Mit Blick auf politische Entscheidungsträger zeigen Studien, dass Republikaner und Demokraten ähnlich häufig einem Faktencheck unterworfen werden, die Aussagen der Republikaner werden häufiger als falsch bewertet. Insgesamt werden rechtsstehende Nutzer eher ‚Opfer‘ einer korrigierenden oder beschränkenden Maßnahme der Inhaltemoderation auf Social Media. Dies wird damit begründet, dass die politische Rechte mehr Misinformation verbreitet oder anderweitig gegen die Richtlinien der Plattformen verstößt.“

„Eine Befragung zeigte, dass sich Expertinnen und Experten für Misinformation weit überwiegend und deutlich auf der politischen Linken positionieren. Auch das mag dazu beitragen, dass Faktenchecker unter rechtsstehenden Individuen unpopulär sind. Anhänger der Republikaner empfinden laut Umfragen die Inhaltemoderation der Plattformen als zu restriktiv. Gerade bei Themen, die politisch Rechtsstehende umtreiben, wie Migration oder Gender, geben die meisten Plattformen enge Leitlinien vor, um beispielsweise Hatespeech zu unterbinden. Dies erklärt partiell, warum Rechte häufiger in Konflikt mit der Inhaltemoderation der Plattformen wie Facebook oder Instagram geraten. Unter Elon Musk wurden diese Regeln auf Twitter/X gelockert, Meta will diesem Beispiel nun folgen.“

„Ich erwarte nicht, dass ein Wechsel vom professionellen Fact-Checking zu Community Notes einen nennenswerten Einfluss auf die Verbreitung oder Akzeptanz von Misinformation haben wird. Im Detail hängt dies natürlich von der Art der Umsetzung ab.“

„Deutlich größere Auswirkungen dürfte die Lockerung der Leitlinien mit Blick auf Themen wie Migration und Gender haben, und auch die angekündigte Fokussierung der Inhaltemoderation auf illegale Inhalte. Es ist sehr wahrscheinlich, dass politisch rechtsstehende Akteure dadurch mehr Spielraum und auch mehr Reichweite auf den Meta-Plattformen erzielen können.“

„Es gibt hier zwei große Verpflichtungen. Erstens müssen alle Plattformen, die fremde Inhalte hosten, für möglicherweise rechtswidrige Inhalte (Artikel 16 DSA) ein Melde- und Abhilfeverfahren einrichten. Jeder Nutzer kann daher Posts, die er oder sie für illegal hält, der Plattform anzeigen. Die Plattform muss dafür eine einfache Möglichkeit bereithalten. Sie muss dann ein im Wesentlichen rechtsförmiges Verfahren durchführen. Dabei muss sie die Meldung bearbeiten und zeitnah, sorgfältig, frei von Willkür und objektiv darüber entscheiden. Meldungen von sogenannten vertrauenswürdigen Hinweisgebern, die nach einem festgelegten Verfahren akkreditiert werden, müssen bevorzugt behandelt werden (Artikel 22 DSA).“

„Eigentlich sind Plattformen von einer Haftung für die Inhalte ihrer Nutzer ausgenommen (Artikel 6 DSA). Denn es wäre zu viel verlangt, müsste eine Plattform aktiv alle Beiträge ihrer Nutzer analysieren. Mit der Meldung jedoch erlischt dieses Haftungsprivileg, die Plattform muss nun tätig werden. Will die Plattform daher einer Haftung für etwaige Rechtsverletzungen entgehen, muss sie einen ihrer Meinung nach rechtswidrigen Beitrag sperren oder löschen.“

„Für sehr große online Plattformen (Very Large Online Platforms, VLOPs) wie zum Beispiel X, Facebook oder Instagram gelten, zweitens, zusätzlich noch strengere Maßstäbe. Sie sind verpflichtet, aktiv systemische Risiken für Grundrechte und demokratische Prozesse zu analysieren und entsprechende Korrekturmaßnahmen zur Verminderung der Risiken zu ergreifen (Artikel 34 f. DSA) – insbesondere auch für Risiken, die geschützte Minderheiten, den demokratischen Prozess und den freien Diskurs in der Gesellschaft betreffen (Artikel 34 Absatz 1, EG 81 und 82 DSA). Dies umfasst auch die Pflicht, aktiv gegen entsprechende falsche Inhalte vorzugehen. Zugleich sind Plattformen aber auch an die Grundrechte gebunden (aus Artikel 14 Absatz 4 DSA), was zu komplexen Abwägungsentscheidungen im Einzelfall führen kann. Illegale Formen der Meinungsäußerung sowie Hassrede und Schmähkritik stehen jedoch schon von vornherein außerhalb des Schutzes der Grundrechte, sodass sich insoweit dieses Problem nicht stellt; vielmehr müssen VLOPs dafür sorgen, dass derartige Inhalte keine signifikante Verbreitung erfahren.“

„Zuckerbergs Kniefall vor Trump ist zugleich ein Schritt weg vom europäischen Recht. Solange Meta seine Dienste in der EU anbietet, gilt dies aber uneingeschränkt.“

„Community Notes sind kurze Bewertungen von anderen Nutzern zu potenziell irreführenden oder falschen Tweets [5]. Diese Bewertungen werden als Disclaimer neben solchen Tweets angezeigt, um die Nutzer über fehlenden Kontext zu informieren [6].“

„Während dieser Ansatz in den USA an Bedeutung gewonnen hat, wies die Europäische Kommission darauf hin, dass ein solches System einer Risikobewertung unterzogen werden muss, bevor es in der EU eingesetzt werden kann. Der DSA schreibt zwar keine spezifischen Moderationswerkzeuge vor. Die von den Plattformen gewählten Methoden müssen aber die Verbreitung schädlicher Inhalte wirksam verhindern [7].“

„Meta wird sich vermutlich schwertun, nachzuweisen, dass ein effektives Risikomanagement allein mit Community Notes möglich ist. Das legt auch der Blick auf die Erfahrungen mit X nahe. Empirische Studien betonen, dass Community Notes in ihrer Wirksamkeit gegen Falschinformationen beschränkt sind und nicht unbedingt zu einem entsprechenden Nutzerverhalten (zum Beispiel Löschung des Posts) führen [8], insbesondere dann, wenn die Notiz von Personen aus dem Lager des (vermeintlichen) politischen Gegners stammt [9]. Dies begründet an ihrer Effektivität als Werkzeug zur Verminderung systemischer Risiken erhebliche Zweifel, insbesondere im Vergleich mit externen Fact-Checkern [8].“

„Letztlich ist festzuhalten: Auch wenn die Chefs von X und Meta dies mittlerweile anders sehen mögen, hat im europäischen Recht immer noch nicht derjenige Recht, der am lautesten schreit oder die meisten Posts und Likes hinter sich versammelt. Das würde jeglichen Minderheitenschutz letztlich komplett aushebeln.“

„Der DSA sieht nicht explizit vor, dass VLOPs mit externen und unabhängigen Organisationen zur Überprüfung und Korrektur von Inhalten zusammenarbeiten müssen. Stattdessen legt der DSA allgemeine Verpflichtungen für VLOPs fest, wie die Einrichtung von Systemen zur Bekämpfung der Verbreitung illegaler Inhalte und die Durchführung von Risikobewertungen. Die Zusammenarbeit mit externen Faktenprüfern im Rahmen von freiwilligen Maßnahmen wird in der Europäischen Union vor allem durch den Code of Practice on Disinformation geregelt. Dieser Code of Practice ist ein freiwilliges Instrument, das Teil des breiteren Aktionsplans der EU gegen Desinformation ist [10].“

„Das im Dezember 2023 eingeleitete und andauernde Verfahren gegen X wegen möglicher Verstöße gegen den DSA bezieht sich nicht nur auf die Einhaltung der DSA-Verpflichtungen in Bezug auf die Bekämpfung der Verbreitung illegaler Inhalte (einschließlich der Risikobewertung und -minderung sowie des Melde- und Aktionsmechanismus von X), sondern auch auf die Wirksamkeit der Maßnahmen zur Bekämpfung von Informationsmanipulationen, insbesondere die Wirksamkeit des Systems Community Notes von X und die Wirksamkeit der damit verbundenen Maßnahmen zur Abschwächung der Risiken für den zivilen Diskurs und die Wahlprozesse [11].“

„Der DSA sieht Fehlinformationen durchaus als systemisches Risiko an (siehe etwa Erwägungsgründe 9, 83, 84, 88, 95, 104, 106, 108). Die Community Notes sollen dieser Verpflichtung zur Minderung systemischer Risiken gerecht werden. Allerdings erreichen Tweets oft viele Nutzer, bevor solche korrigierenden Notizen verfügbar sind, was eine strukturelle Herausforderung darstellt [12]. Community Notes können ein nützliches Werkzeug zur Bekämpfung von Fehlinformationen sein; sie können jedoch ein funktionierendes externes Moderationssystem nicht ersetzen – weder rechtlich noch faktisch.“

„Laut Spiegel waren die bisherigen Warnungen bei Meta nicht ohne Wirksamkeit; in einem Fünftel der Fälle löschten die Autorinnen und Autoren die betroffenen Beiträge offenbar noch vor Veröffentlichung [13]. Da die Community Notes erst nach Veröffentlichung greifen, ist auch insofern zu bezweifeln, dass sie genauso wirksam sind.“

„Bei Verstößen können Anbieter bis zu sechs Prozent ihres weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr als Geldbuße auferlegt bekommen.“

„Außerdem muss der Anbieter innerhalb einer von der Kommission gesetzten Frist Maßnahmen zur Behebung des Verstoßes ergreifen. Wenn die Plattform die Einhaltung von einstweiligen Maßnahmen, Abhilfemaßnahmen und Verpflichtungen verzögert, kann sie dafür regelmäßig mit bis zu fünf Prozent ihres durchschnittlichen weltweiten Tagesumsatzes für jeden Tag der Verzögerung sanktioniert werden [14].“

„Wenn die Kommission feststellt, dass zu irgendeinem Zeitpunkt der Untersuchung möglicherweise das Risiko eines schweren Schadens für Nutzer des Dienstes besteht, kann sie einstweilige Maßnahmen für die Plattformanbieter erlassen (verhältnismäßig und vorübergehend): zum Beispiel Änderungen an Empfehlungssystemen, verstärkte Überwachung bestimmter Keywords oder Hashtags, oder Anordnungen zur Beendigung oder Behebung von mutmaßlichen Verstößen [14].“

„Die Kommission kann Meta also auch auffordern, vorläufige Maßnahmen zu ergreifen, bevor sie eine endgültige Entscheidung über die Nichteinhaltung trifft, wenn aufgrund der Gefahr eines ernsthaften Schadens für die Nutzer Dringlichkeit gegeben ist.“

„Sperrungen von Onlineplattformen sind im DSA auch möglich. Diese Sperrungen können von den jeweiligen nationalen Behörden verhängt werden. Die Anforderungen dafür sind, dass der Plattformbetreiber trotz mehrfacher Geldbußen dem DSA zuwiderhandelt, dadurch schwerwiegende Schäden verursacht werden und eine Straftat begangen wird, die das Leben oder die Sicherheit von Personen bedroht. Die Sperrungen können allerdings immer nur vorübergehend eingesetzt werden und gelten als ultima ratio. Dass sie bei X oder Meta bald zur Anwendung kommen, ist daher unwahrscheinlich.“

„Zuckerberg folgt Musk – Rollback zurück zur grenzenlosen Freiheit und Verantwortungslosigkeit der Plattformen: Mit dieser Entscheidung von Zuckerberg wird endgültig deutlich: Die Plattformen wünschen sich zurück in ihre Anfangsjahre und wollen gleichzeitig ihre globale Dominanz behalten. Wir sehen ein Rollback zurück zu einem libertären Verständnis von Meinungsfreiheit, das die individuelle Freiheit vor jede Begrenzung stellt. Wichtiger aber ist der versuchte Rollback zu einem Verständnis von Plattformen, das sie aus der Verantwortung nimmt: Wir haben in den vergangenen zehn Jahren einen breiten gesellschaftlichen und politischen Konsens aufgebaut, zunächst in Europa, aber zunehmend auch in großen Teilen von Lateinamerika und auch in den USA, dass Plattformen Verantwortung für die Inhalte und Interaktionen auf ihren Diensten übernehmen müssen. Nach Musk kündigt nun auch Zuckerberg die Übernahme dieser Rolle explizit auf, und benennt jede Form von Eingriff und Begrenzung von Kommunikation als ‚Zensur‘. Er fühle derzeit im Zusammenhang mit der US-Wahl einen ‚cultural tipping point towards once again prioritizing speech‘. Das möchte Zuckerberg nutzen, um ‚back to the roots‘ von Facebook zu gehen und Nutzer*innen wieder alle Freiheiten der Meinungsäußerung zu ermöglichen. Diese vermeintlichen Freiheiten der Nutzer*innen ist für Zuckerberg und Meta aber vor allem attraktiv, weil sie auch eine grenzenlose Freiheit und wortwörtlich Verantwortungslosigkeit der Plattformen mitbringen würde.“

„Faktenchecks spielen eine wichtige Rolle in unseren modernen Informationsumgebungen – schließlich haben die wenigsten von uns Zeit, alles selbst zu überprüfen, was beim Warten auf den Bus über den Bildschirm unseres Smartphones läuft.“

„Faktenchecks haben verschiedene Funktionen. Erstens können sie Personen informieren, die selbst noch nicht über eine bestimmte Fehlinformation gestolpert sind. Vor allem gut gemachte Faktenchecks haben dann eine Informationsfunktion und können dazu beitragen, uns für die Konfrontation mit Fehlinformationen auszurüsten. Diese Funktion wird auch als ‚Prebunking‘ (Vor-Widerlegung) bezeichnet. Meta hat beispielsweise bislang Warnhinweise eingeblendet, die Personen darüber informiert haben, dass bestimmte Inhalte von Faktenchecks angezweifelt werden – anklicken konnte man die Inhalte trotzdem. Zweitens können Faktenchecks dazu dienen, Politiker und Politikerinnen oder andere mächtige Personen und Institutionen zur Verantwortung zu ziehen – etwa, wenn bei politischen Debatten direkt die Information zur Verfügung gestellt wird, ob der oder diejenige sich an die Fakten hält. Drittens können Faktenchecks auch Personen ansprechen, die bereits von einer bestimmten Fehlinformation gehört haben (‚Debunking‘) und diese vielleicht sogar für teilweise glaubwürdig halten.“

„Generell zeigen sowohl einzelne Studien als auch Meta-Analysen (systematische Auswertungen mehrerer Studien), dass Faktenchecks zu faktenbasierteren Überzeugungen beitragen [15] [16]. Die Erfolgsrate hängt jedoch davon ab, wie Faktenchecks gemacht sind und wen sie wann erreichen. Zum Beispiel haben zusammenfassende Faktenchecks – im Vergleich zu einzelnen ‚stimmt nicht‘-Statements – einen größeren Effekt, ebenso detaillierte, wenn auch kurze, Erklärungen [17] [18]. Faktenchecks haben es zudem manchmal schwer, dieselbe Reichweite im Netz zu entwickeln, wie Fehlinformationen – vor allem dann, wenn Empfehlungsalgorithmen emotionale, sensationalistische Inhalte besonders oft weiterempfehlen.“

„Zu guter Letzt profitieren Personen, die (noch) nicht an eine bestimmte Fehlinformation glauben, mehr von faktischen Informationen als Personen, die (schon) an eine bestimmte Fehlinformation glauben. Dennoch profitieren alle von faktischen Inhalten – nur eben in unterschiedlichem Ausmaß [19] [20] [21].“

„Spezifische Warnhinweise, wie Meta sie bislang einsetzte, sind einigen Studien (unter anderem einer unserer eigenen) zufolge wirksam – allerdings gibt es auch Studien, die keinen Effekt finden. In Meta-Analysen zeichnet sich aber eher ab, dass diese Label im Sinne einer besseren Unterscheidungsfähigkeit von faktenbasierten gegenüber nicht-faktenbasierten Inhalten hilfreich waren [19] [22] [23] [24].“

„Zunächst einmal stellen Faktenchecker und Faktencheckerinnen Informationen zur Verfügung und recherchieren nach. Sie stellen Quellen und Argumente zur Verfügung [25].“

„Das reine Zurverfügungstellen von Informationen ist erst einmal keine Überregulierung – Mediennutzende sind durchaus in der Lage, sich ein eigenes Urteil zu bilden. Wer schon mal versucht hat, ein Familienmitglied von etwas zu überzeugen, das die Person wirklich nicht glaubt, weiß wie schwer das ist – Medieninhalte haben es noch schwerer.“

„Die Idee von Community Notes ist ökonomisch verlockend – statt ausgebildete Personen mit finanziellen Ressourcen auszustatten, um Inhalte nachzurecherchieren, liegt die Verantwortung hier auf den Nutzenden. Die kosten nichts und als Plattformbetreibende kann ich die Verantwortung für die Inhalte in ‚meinem Haus‘ auf meine ‚Gäste‘ abwälzen. Allerdings zeigen Studien, dass erstens Nutzende gar nicht alle Inhalte überprüfen, sondern eher Inhalte, die ihnen sowieso schon komisch vorkommen, weil sie ihrer Meinung widersprechen. Zweitens machen die meisten Leute gar nichts, wenn ihnen Fehlinformationen begegnen. Drittens sind Menschen zwar durchaus in der Lage, vertrauenswürdige Inhalte zu erkennen, aber neigen viertens auch dazu, ihre eigenen Fähigkeiten zu überschätzen, wenn sie besonders wenig Ahnung von einem Thema haben (Dunning-Krueger Effekt) [26] [27] [28] [29].“

„Nutzende vertrauen Community Notes – aber eher, weil diese Hintergründe liefern [30]. Community Notes sind aber eben durchaus auch von Parteilichkeit beeinflusst – man checkt eher die anderen als die eigene Gruppe, zeigt ein bislang nicht begutachteter Beitrag aus den USA [9] [31]. Community Notes sind zudem langsamer als professionelle Faktenchecks [32].“

„Auch Faktenchecker*innen sind Menschen und können Fehler machen - allerdings sprechen Studien gegen starke Verzerrungen und für professionelle Standards [25] [33] [34].“

„Twitter hat nicht grade vom Abschaffen von Faktenchecks und Moderation profitiert. Viele Nutzende sind zu anderen Plattformen gewechselt, der Marktwert ist ziemlich eingebrochen – auch wenn die aktuelle politische Situation das wieder beeinflusst.“

„Generell sind die meisten Mediennutzenden an faktisch akkuraten Inhalten interessiert [35] und insbesondere Hassrede (siehe Metas neue Toleranz für sexistische Hassrede) führt dazu, dass Menschen sich von Plattformen schlicht zurückziehen [36]. Wer will schon ständig beschimpft, belogen und anderweitig angegriffen werden? Die meisten Menschen haben ja Besseres zu tun.“