Zum Hauptinhalt springen
07.05.2020

Facebooks Oversight Board

Anlass

Das Facebook Oversight Board soll als unabhängiges Gremium Entscheidungen von Facebook anfechten und Policy-Empfehlungen aussprechen können. Ende Januar hatte Facebook dazu neue Informationen [I] und Details zur Geschäftsordnung [II] veröffentlicht. Die Medienresonanz dazu war unterschiedlich: von der Vermutung, das Board könnte Mark Zuckerbergs Politik beenden, politische Werbung trotz weitläufiger Kritik weiterhin zu erlauben, über vorsichtigen Optimismus bis hin zur Befürchtung, das Board wäre in der Praxis zahnlos.

Nachdem Thomas Hughes, der geschäftsführende Direktor der britischen Menschenrechtsorganisation „Article 19“, bereits als Direktor des Boards feststand, hat Facebook am Mittwoch die Namen der ersten 20 Mitglieder veröffentlicht [III]. Weitere Mitglieder werden zu einem späteren Zeitpunkt bekanntgegeben und können auch noch empfohlen werden [IV]. Das Board soll in den kommenden Monaten mit der Anhörung der ersten Fälle beginnen.

Aus den veröffentlichten Dokumenten geht hervor, dass neben dem Board eine Art Stiftung („trust“) gegründet werden soll, die von Facebook komplett finanziert wird und sich um die Finanzierung des Boards kümmert, sodass das Board nicht direkt finanziell von Facebook abhängig ist. Die Finanzierung des Trusts ist mit 130 Millionen Dollar für sechs Jahre zugesagt und kann verlängert werden.

Neben dem Direktor des Boards, der sich vor allem um Administratives kümmern soll, wird es drei von Facebook ernannte Co-Vorsitzende geben, die dann weitere Mitglieder vorschlagen können. Diese Vorschläge können von den durch Facebook ernannten Mitgliedern des Trusts („trustees“) der Stiftung angenommen oder abgelehnt werden. Insgesamt soll das Oversight Board aus ungefähr 40 Personen bestehen, die auch mit Hinblick auf Diversität ausgewählt werden sollen.

Das Board hat vor allem zwei Aufgaben: Entscheidungen zu kontroversen Inhalten auf Facebook und Instagram treffen – also zu prüfen, ob bestimmte Inhalte gelöscht werden sollen oder nicht – und Policy-Empfehlungen an Facebook geben.

Bei der Überprüfung der Inhalte kann die Beschwerde an das Board von Nutzern oder von Facebook selbst stammen. Nutzer, deren „reguläre Einsprüche“ über das Facebook-System abgelehnt wurden, bekommen in der Antwort von Facebook auf den ursprünglichen Einspruch eine Identifikationsnummer, mit der sie über die Website des Boards Beschwerde gegen die Entscheidung einlegen können. Anfänglich soll das Gremium nur Fälle behandeln, in denen einzelne Inhalte – bestimmte Posts, Fotos, Videos oder Kommentare – von Facebook gelöscht wurden. Zukünftig soll auch Beschwerde eingelegt werden können gegen explizite Entscheidungen Facebooks, kontroverse Inhalte nicht zu löschen und Inhalte, die von Fact Checkern als falsch markiert wurden, obwohl sie laut Facebooks Richtlinien nicht hätten überprüft werden sollen. Außerdem sollen zukünftig auch Fälle, in denen Inhalte wie Gruppen, Seiten, Profile, Veranstaltungen und auch Werbung betroffen sind, vom Board behandelt werden. Aus den bisherigen Dokumenten geht aber nicht hervor, wann „zukünftig“ sein soll, auch wenn genau dieses Zeitfenster in Anbetracht der kommenden US-Wahl und der Kontroverse um politische Werbung bei Facebook sehr wichtig ist.

Die Entscheidungen des Boards über diese Inhalte müssen von Facebook umgesetzt werden. Die Policy-Empfehlungen des Boards müssen von Facebook jedoch nur erwogen werden und können abgelehnt werden. Zustimmung oder Ablehnung einer Policy-Empfehlung muss Facebook innerhalb von 30 Tagen öffentlich über den Newsroom kommunizieren.

Die Mitglieder des Boards können dabei entscheiden, welche Anfragen sie bearbeiten. Es müssen nicht zwingend alle Anfragen bearbeitet werden. Von der Beschwerde bis zur Implementierung der Entscheidung sollen höchstens 90 Tage vergehen, in dringenden Fällen höchstens 30. Die Prüfung dieser dringenden Fälle – von Facebook selbst als solche deklariert – kann vom Board nicht abgelehnt werden. Es prüft immer nur einzelne Fälle, Facebook ermittelt dann, ob das Urteil als Blaupause für gleiche Inhalte in ähnlichen Fällen gelten kann.

All diese Regeln sind in der Geschäftsordnung festgelegt, von der das Board selbst nur kleine Teile, die das Board selbst betreffen, ändern kann [II, S. 28]. 

Übersicht

     

  • PD Dr. Matthias Kettemann, Forschungsprogrammleiter „Regelungsstrukturen und Regelbildung in digitalen Kommunikationsräumen“, Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut (HBI), Hamburg
  •  

  • Prof. em. Dr. Otfried Jarren, Professor mit besonderen Aufgaben am Institut für Kommunikationswissenschaft und Medienforschung, Universität Zürich, Schweiz
  •  

  • Prof. Dr. Anne Riechert, Professorin für Datenschutzrecht und Recht in der Informationsverarbeitung, Frankfurt University of Applied Sciences, Frankfurt am Main
  •  

  • Prof. Dr. Tobias Keber, Professor für Medienrecht und Medienpolitik in der digitalen Gesellschaft, Hochschule der Medien Stuttgart
  •  

  • Quirin Weinzierl, Programmbereichskoordinator „Transformation des Staates in Zeiten der Digitalisierung“, Deutsches Forschungsinstitut für öffentliche Verwaltung (FÖV) Speyer
  •  

Statements

PD Dr. Matthias Kettemann

Forschungsprogrammleiter „Regelungsstrukturen und Regelbildung in digitalen Kommunikationsräumen“, Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut (HBI), Hamburg

„Das Oversight Board stellt den ersten Versuch einer Plattform da, ein Quasi-Gericht zu schaffen. Schon lange setzen Internetplattformen wie Facebook und Twitter Regeln, aber bisher haben sie diese auch immer selbst umgesetzt. Große Teams an Moderator*innen, unterstützt durch Algorithmen, haben Inhalte gelöscht. User*innen, die sich ungerecht behandelt fühlten, konnten nur in intransparenten Prozessen intern die nächste Instanz anrufen. Das hat schlecht geklappt. Jetzt eröffnet Facebook seinen User*innen die Möglichkeit, gelöschte Inhalte vor ein unabhängiges Expert*innengremium zu bringen, das mit richtig viel Geld ausgestattet ist und so unabhängig wie möglich gestaltet ist. Natürlich werden wir warten müssen, wie selbstbewusst das Board auftreten wird, aber hier für mehr Kontrolle durch externe Expert*innen zu sorgen, ist ein guter Ansatz. Vor allem, weil das Board ja nicht nur in Einzelfällen Inhalte wiederherstellen kann, sondern auch Empfehlungen abgeben kann, wie Facebook seine Regeln ändern soll.“

Auf die Frage, inwiefern das Board insbesondere im Hinblick auf die kommenden US-Wahlen genug Befugnisse hat:
„Hier wird besonders die Frage virulent, ob manipulative Werbung verboten werden soll – oder vielleicht überhaupt politische Werbung. Das ist in Amerika ein größeres Problem als in Deutschland, auch wenn es auch hier während der EU-Wahl einige Fälle von manipulierten Einschaltungen gegeben hat. Allerdings kann das Board ja nur gelöschte Inhalte wiederherstellen und nicht Inhalte, die online sind, löschen lassen – zumindest jetzt noch nicht. Allerdings könnte das Board sehr bald die Empfehlung aussprechen, dass Facebook seine Richtlinien ändert und irreführende politische Werbung verbietet. Das wäre dann aber – zunächst – nur ein Vorschlag.“

Auf die Frage, ob die Entscheidungen des Boards bezüglich einzelner Inhalte für Facebook juristisch bindend sind:
„Facebook hat sich dazu bekannt, entsprechende Entscheidungen umzusetzen. Strafen gäbe es natürlich keine, aber wenn sich Facebook wirklich nicht an gut begründete Entscheidungen des mit viel Geld und Mühe eingerichteten Boards hielte, dann würde das Unternehmen sehr viel Goodwill verlieren; dann wäre der ganze Prozess umsonst gewesen. Ich denke, Facebook wird die Entscheidungen daher befolgen. Bei den Empfehlungen für neue Regeln, die ja nicht bindend sind, könnte es hingegen sein, dass nicht jede aufgenommen wird. Hier werden wir erst sehen, wie gut das Board argumentiert und ob es öffentlichen Druck gegenüber Facebook aufbauen kann.“

Auf die Frage, wie sichergestellt wird, dass das Board nicht vor allem die Vorschläge von Facebook prioritär behandelt und möglicherweise wichtigere und kontroversere Anfragen von Nutzern ignoriert:
„Natürlich kann Facebook auch Fälle vor das Board bringen, aber ich sehe diese Gefahr nicht. Natürlich will Facebook mit dem Board sensible Entscheidungen ‚internationalisieren‘ und damit auslagern. Nicht nur das Unternehmen will mehr die Entscheidung treffen, ob zum Beispiel das Bild des vor dem US-Napalm-Angriff im Vietnamkrieg fliehenden Mädchens wegen Nacktheit gelöscht oder wegen der historischen Bedeutung online bleiben soll. Facebook will hier mehr Legitimität erzeugen. Und das geht nur, wenn sie ehrlich und offen mit dem Board umgehen. Dass sie mit einem Team des Hamburger Leibniz-Instituts für Medienforschung, dem ich auch angehöre, 2019 erstmals Forscher beobachten ließen, wie Normen entstehen, deutet schon einmal in die richtige Richtung. Jedenfalls agiert Facebook (und Google auch) im Bereich der Inhaltsmoderation weit sensibler und menschenrechtsfreundlicher als nichtwestliche Plattformen wie TikTok. Darüber müssen wir in Zukunft verstärkt reden.“

Prof. em. Dr. Otfried Jarren

Professor mit besonderen Aufgaben am Institut für Kommunikationswissenschaft und Medienforschung, Universität Zürich, Schweiz

„Facebook repräsentiert einen neuen gesellschaftlichen Institutionentyp. Als Plattform ermöglicht sie vielfältige Formen der Individual-, Gruppen- und Organisationskommunikation wie der sozialen Organisation. Die Plattform ist global, basiert auf private ordering (Verträgen mit den Nutzern) und basiert nicht – wie für die elektronischen Medien in Europa verpflichtend – auf gesetzlichen Vorgaben (Rundfunkregulierung). Facebook kann sozialtheoretisch als ein Prozess der fundamentalen Institutionalisierung durch Private begriffen werden. Das Besondere aber ist: Nutzerinnen und Nutzer wirken an der Institutionalisierung mit. Ähnlich wie die Presse, die sich auch privatwirtschaftlich und gegen die damaligen Obrigkeiten organisierte, und das Recht auf Selbstorganisation wie die Unabhängigkeit vom Staat für sich in Anspruch nimmt. Deshalb gibt es in allen westlichen Demokratien keine staatliche Regierung für die Presse, sondern allenfalls Formen der Selbstkontrolle (wie Presseräte). Die Presse wie der Rundfunk, als Massenmedien institutionalisiert, ermöglichen aber keine kommunikative Beteiligung der Rezipienten. Das unterscheidet die publizistischen Medien elementar von den kommunikative Kollaboration ermöglichenden Plattformen.“

„Facebook plant mit dem Oversight Board, vor allem aufgrund wiederholter Kritik an der (Ermöglichung der) Verbreitung bestimmter Inhalte wie deren Löschung oder Nicht-Löschung, ein anspruchsvolles Konzept der Selbstregulierung. Dabei geht es aber nicht um eine umfassende Nutzerbeteiligung, so an der Aushandlung von Normen und Regeln oder bezogen auf die Nutzerverträge, sondern nur um einen Teilaspekt: die Inhalte und somit das sogenannte Content-Management. Trotz dieser Fokussierung: Es ist deshalb ein anspruchsvolles und wichtiges Konzept, weil damit auf ein globales, nutzergetriebenes Kommunikationsangebot abgezielt wird. Im Zusammenhang mit dem geplanten Content-Management müssen nämlich auch unterschiedliche nationale wie regionale, also unterschiedliche rechtliche wie eben sozio-kulturelle Norm- wie Regelvorgaben auf nationalstaatlicher Ebene, bei Entscheidungen beachtet werden. Das ist anspruchsvoll.“

„Mit der Governancestruktur, so der Zusammensetzung der Gremien wie der geplanten Bearbeitung von ‚Fällen‘ wird beabsichtigt, dass nicht allein oder dominant bestimmte regionale oder gar nationale Norm- und Regelinteressen sich bei Bewertungen und Entscheidungen durchsetzen können. Es wird zu Norm- und Regelkonflikten kommen, die verhandelt wie auch durch Dritte, so Gerichte, zu entscheiden sein werden. Das ist im hohen Maße innovativ und entspricht dem Anspruch einer auf Globalität angelegten Plattform. Aber nicht nur das: Das Bearbeiten globaler Herausforderungen ist zu einer weit über den Nationalstaat hinausreichenden dringlichen Sache geworden. Die Trägheit der Nationalstaaten gilt es zu überwinden. Selbst wenn das ein langwieriger Prozess ist: Im besten Falle kann dadurch ein robustes Entscheidungsregime erreicht werden, in dem die Internationalisierung von Kommunikationsnormen vorangetrieben wird. Auf alle Fälle kann durch das Verfahren ein Normen- und Regelwettbewerb ausgelöst werden, mit dem sich – mit Blick auf das nationale Strafrecht oder die nationalen Persönlichkeitsregelungen – nationalstaatliche politische Institutionen befassen müssen. Vor allem die Enge der nationalstaatlichen Regelungen könnte so deutlich werden.“

„Für die Lösung globaler Probleme ist ein globales, offenes – also liberales – Kommunikationssystem von Bedeutung. Es stellt eine Voraussetzung für ein politisches Mehr-Ebenen-System dar. Ähnlich wie die Institutionalisierung der Presse die nationalstaatliche Demokratie befördert hat, können von den Plattformen entsprechende Impulse für globale Formen von Staatlichkeit ausgehen. Mit den neuen Plattformen bildet sich erkennbar zunächst einmal ein Mehr-Ebenen-Medien- und Kommunikationssystem aus. Facebook kann darin eine zentrale Position erhalten.“

„Das Vorhaben ist schließlich auch deshalb ambitioniert, weil es von einem privaten Akteur getragen wird. Aber deshalb kann das Vorhaben einen Vorbildcharakter erreichen – so für andere private (Plattform-)Akteure, aber auch für staatliche Instanzen. Die Initiative füllt zudem eine Lücke: Die Nationalstaaten vermögen es nicht, globale Kommunikationsangebote adäquat zu regulieren. Die Regierungen wie Parlamente der Nationalstaaten repräsentieren zudem immer konkrete, sehr kurzfristige politische Machtinteressen. In den demokratischen Nationalstaaten Europas findet eine direkte Medienaufsicht (Rundfunk) statt und es gibt ausgeprägte Formen der Kommunikationskontrolle. Andere Akteure als Nationalstaaten kamen bislang für die Regelung von Kommunikation funktional wie normativ nicht in Frage, auch weil sie nicht demokratisch legitimiert sind oder über keine verfassungsmässigen Kompetenzen verfügen (wie beispielsweise die Institutionen der EU). Durch die Facebook-Initiative ist die Ausbildung neuer Organisationen auf Basis nationalstaatlicher Delegationsansätze denkbar.“

„Das geplante Content-Management bei Facebook ist daher als eine relevante, globale Governance-Initiative zu begreifen. Durch die vorgesehene Gremienstruktur ist ein Höchstmaß an Unabhängigkeit vom Unternehmen gesichert. Dass dabei aber auch Unternehmensinteressen beachtet werden (so bei der Erstzusammensetzung von Gremien, bei der Regelungen von Fristen oder der Möglichkeit, dass auch das Unternehmen Entscheidungen verlangen kann) ist verständlich. Es wird von den Gremien und ihren Regeln wie Entscheidungen abhängen, ob diese auf Akzeptanz stoßen. Das vorgesehene Board kann zudem eigenständig Richtlinienempfehlungen geben. Es besitzt eigenständige Kommunikations- wie Berichtskompetenzen. Dadurch kann der gesellschaftliche Diskurs über Facebook, Content-Fragen und so weiter ermöglicht beziehungsweise immer wieder angestoßen werden.“

„Einwenden kann man, dass die Fokussierung auf Fragen von verbreiteten Inhalten aufgrund der grundlegenden kulturellen Unterschiede dazu führt, dass es für die jeweiligen nationalen oder regionalen Kulturen zu keiner spezifischen Regelung kommt. Doch kann das in einer globalen Welt, die gemeinsame Probleme zu bewältigen hat, noch ein vorrangiges Ziel sein? Durch das Verfahren wird allerdings die Reflektion über unterschiedliche Kommunikationsnormen wie -regeln angeregt. Kommunikationsnormen- wie -regelvielfalt kann dadurch sichtbar, ein Wettbewerb über angemessene Regelungen angestoßen werden. Das betrifft zudem die (Plattform-)Branche insgesamt, die sich noch nicht (verbandlich) organisiert hat.“

„Die Etablierung eines Fall-Managements, bei dem sowohl Nutzerinnen wie Nutzer als auch das Unternehmen Initiativen ergreifen kann, ist sinnvoll. Dass dieses Verfahren zudem technisch gestützt wird, erlaubt eine stete Weiterentwicklung. Denn um den Einbezug der Nutzer ist es bei Facebook – auch technisch – schlecht bestellt. Die Orientierung im vorliegenden Governance-Vorschlag auf das Content-Management ist verständlich, greift aber zu kurz, weil damit keine Debatte über die grundlegenden vertraglichen Bestimmungen zwischen den unterschiedlichen Beteiligtengruppen und Facebook möglich werden. Und durch die zeitliche Limitierung des Vorhabens besteht das Risiko, dass in der möglichen Zeit keine überzeugende Fall- oder Spruch-Praxis etabliert werden kann. Zudem ist es nicht wahrscheinlich, dass die international gebildeten Gremien in der kurzen Zeit ihre volle Arbeitsfähigkeit erlangen können. Schließlich ist das Vorhaben davon abhängig, ob es gelingt, international sichtbare und zudem bezogen auf Kommunikationsnormen wie -regeln Fachpersönlichkeiten zu gewinnen, die über Reputation verfügen. Und die dann aufgrund ihrer Reputation die Unabhängigkeit der Gremien wie der Verfahren glaubwürdig repräsentieren.“

„Der geäußerte Einwand, Facebook wolle mit dieser Maßnahme lediglich vor den US-amerikanischen Wahlen sich politische Ruhe verschaffen, ist sicher nicht ganz von der Hand zu weisen. Doch selbst dann, wenn das Projekt scheitert, so hat ein privates Unternehmen eine Form der Selbstregulierung konzipiert, auf die sich andere Akteure beziehen können. Der Facebook-Vorschlag, aus welcher Not heraus er auch immer geboren wurde, ist zudem eine Art von Vorlage: Es ist ein Element für eine Form der Co-Regulierung. Auf Basis der Vorlage wäre eine neue Form der Co-Regulierung möglich, weil Nutzerinnen und Nutzer einbezogen sind. Das wäre zugleich ein großer Schritt für eine neue, eine demokratische Medien- oder Kommunikationspolitik. Denn bisher dominieren und entscheiden in diesem Politikfeld machtvolle nationalstaatliche Akteure, vielfach im Eigeninteresse, allein um der kurzfristigen Machterhaltung willen.“

Prof. Dr. Anne Riechert

Professorin für Datenschutzrecht und Recht in der Informationsverarbeitung, Frankfurt University of Applied Sciences, Frankfurt am Main

Auf die Frage, wie der Ansatz des Oversight Boards zu beurteilen ist und ob es andere Policy-Ansätze gibt:
„Insgesamt schafft nur eine neutrale Infrastruktur das notwendige Vertrauen sowie Transparenz – und zwar ohne wirtschaftliche Interessen am Betrieb eines Systems. Hierfür ist ein gemeinschaftliches und ebenso grenzüberschreitendes Interesse und Engagement notwendig, welches von keinem Unternehmen und von keiner Institution allein umgesetzt werden kann. So kann auch ein von Facebook geschaffenes und finanziertes Projekt die notwendige Neutralität nicht sicherstellen.“

„Ein anderer Policy-Ansatz könnte die Bildung eines unabhängigen Organs umfassen, beispielsweise als hoheitliche Aufgabe und organisiert in Form einer öffentlichen Einrichtung, welches die unterschiedlichen Interessen und kulturellen Wertvorstellungen berücksichtigt sowie Regeln und Standards im Sinne von Governance-Strukturen festlegt. Ein solches Projekt bedarf Zeit und einer unabhängigen finanziellen Grundausstattung. Die so geschaffenen Standards können zum einen unterstützen, das Vertrauen der Nutzer in die vorhandene Infrastruktur zu stärken, und zum anderen den Unternehmen sogar als Marketinginstrument dienen. Das Oversight Board entscheidet dahingegen fallbezogen. Stellungnahmen, etwa hinsichtlich einer grundsätzlichen Vorgehensweise in Bezug auf vergleichbare Fälle, sind für Facebook nicht bindend (siehe auch [1]).“

Auf die Frage, inwiefern das Board insbesondere im Hinblick auf die kommenden US-Wahlen genug Befugnisse hat:
„Gemäß der Ankündigung von Facebook werden im ersten Schritt vom Oversight Board lediglich Sachverhalte entschieden, die sich auf von Facebook gelöschte Inhalte beziehen. Daher sind im Zusammenhang mit dem US-Wahlkampf voraussichtlich keine Beschwerden vor dem Oversight Board zu erwarten, da politische Anzeigen, auch wenn sie Lügen enthalten, im Sinne der Geschäftspolitik von Facebook nicht gelöscht werden.“

„Erst in einem zweiten, in zeitlicher Hinsicht nicht näher definierten Schritt soll es nach den Aussagen von Facebook zukünftig möglich sein, unter anderem gegen die Nichtlöschung von Inhalten vorzugehen. Da das Oversight Board für seine Entscheidungsfindung eine Frist von 90 Tagen hat (nachdem darüber hinaus zuvor ein interner Prozess bei Facebook stattgefunden haben muss), ist mehr als fraglich, ob eine Entscheidung des Oversight Boards vor der kommenden US-Wahl im November in diesem Falle überhaupt zum Tragen kommen würde.“

Auf die Frage, ob die Entscheidungen des Boards bezüglich einzelner Inhalte für Facebook juristisch bindend sind:
„Facebook verpflichtet sich in den Statuten beziehungsweise der Geschäftsordnung, die Maßnahmen des Oversight Boards innerhalb von sieben Tagen umsetzen. Davon ausgenommen sind Stellungnahmen (‚policy advisory statements‘) des Boards, die als Empfehlung betrachtet werden. Die Konsequenzen einer Nichtumsetzung sind in der Geschäftsordnung nicht geregelt.“

Auf die Frage, wie sichergestellt wird, dass das Board nicht vor allem die Vorschläge von Facebook prioritär behandelt und möglicherweise wichtigere und kontroversere Anfragen von Nutzern ignoriert:
„In der Geschäftsordnung sind keine Regelungen enthalten, die sicherstellen, dass die Vorschläge von Facebook nicht prioritär behandelt werden. Es gibt zwar ein sogenanntes ‚Case Selection Committee‘, aber noch ist nicht klar, wie sich dieses zusammensetzt und welche Auswahlkriterien es entwickelt. So kann Facebook außerdem eigene Fälle einreichen und hat das Recht, Stellungnahmen (‚policy advisory statements‘) vom Oversight Board anzufordern. Es liegt zwar im alleinigen Ermessen des Boards, sowohl Fälle als auch Stellungnahmen anzunehmen oder abzulehnen, die durch diesen Prozess an das Board verwiesen werden (mit Ausnahme von Sonderfällen, die einer beschleunigten Prüfung unterliegen sollen). Zu bedenken ist jedoch, dass Facebook eine Finanzierung für zunächst sechs Jahre im Voraus vorsieht und anhand der Jahresberichte über die Effektivität des Oversight Boards und über die zukünftigen Mittelzuweisungen entscheidet. Dies kann im Einzelfall auch Auswirkung auf die (vermeintliche) Entscheidungsfreiheit der einzelnen Mitglieder haben und die Grenzen zwischen einem Beratungsgremium und einem Aufsichtsgremium können dadurch verschwimmen.“

Prof. Dr. Tobias Keber

Professor für Medienrecht und Medienpolitik in der digitalen Gesellschaft, Hochschule der Medien Stuttgart

„Wie die umfangreichen Vorarbeiten zeigen, war Facebook bei der Konzeption des ‚Oversight Boards‘ und der Ausarbeitung seiner Arbeitsweise durchaus bemüht. Und freilich ist der Ansatz zu begrüßen, eine gerichtsähnliche Instanz zu etablieren, die Nutzerbeschwerden verhandelt. Bisher erscheint die Löschpraxis von Facebook auf Grundlage des eigenen Hausrechts (Community Standards) ja bisweilen als durchaus willkürlich. Auch wird man es als positiv bewerten müssen, dass das Gremium ausweislich des Verfahrensstatuts (Bylaws) durchaus signifikante Entscheidungskompetenzen hat. Facebook verpflichtet sich dort, eine Entscheidung des Gremiums (beispielsweise, dass die Löschung eines Inhalts zu Unrecht erfolgte), zeitnah umzusetzen. Damit hat das Board beispielsweise mehr Kompetenzen als der ‚Lösch-Beirat‘, den Google 2015 installiert hatte. Andererseits kann von echter gerichtlicher Überprüfung natürlich nicht die Rede sein. Weder findet sich im Statut der Grundsatz richterlicher Unabhängigkeit, noch finden sich echte Sanktionen für den Fall, dass Facebook eine Entscheidung doch nicht umsetzt. Problematisch ist schließlich, dass die Besetzung der ‚Richterbank‘ initial durch Facebook erfolgt. Bessere Lösungen gibt es im internationalen Bereich durchaus. So können Domainstreitigkeiten schiedsrichterlich unter Ägide einer internationalen Organisation (WIPO) geführt werden. Dort ist technisch durch direkte Anbindung an die relevanten Datenbanken sichergestellt, dass die Entscheidungen des Schiedsgerichts (Panel) umgesetzt werden.“

Auf die Frage, inwiefern das Board insbesondere im Hinblick auf die kommenden US-Wahlen genug Befugnisse hat:
„Es sind zwei Situationen denkbar, wie das Oversight Board mit dieser Materie befasst werden könnte. Entweder bittet Facebook das Board explizit um eine Stellungnahme (policy advisory statement) oder der Ausgangsfall ist eine Nutzerbeschwerde. Als für Facebook verbindlich werden in den Bylaws nur die Einzelentscheidungen auf Nutzerbeschwerden geführt, nicht aber die policy advisory statements. Auch bei den Einzelentscheidungen kann aber mangels Sanktionen (siehe oben) nicht wirklich von Verbindlichkeit gesprochen werden. Darüber hinaus kann der durch die Statuten neben dem Oversight Board eingerichtete ‚unabhängige‘ Oversight Board Trust (Treuhandgesellschaft) Mitglieder des Oversight Board entlassen (remove), wenn diese sich nicht an bestimmte Regeln halten (breaches of the board’s code of conduct). Welche Regeln das sind, wann genau es also zum Rauswurf eines ‚Richters‘ kommen kann, wird im Statut nicht näher spezifiziert.“

Auf die Frage, ob die Entscheidungen des Boards bezüglich einzelner Inhalte für Facebook juristisch bindend sind:
„Von einer echten Bindung wird man nur im Fall von (staatlichen) Sanktionen sprechen können, die nicht vorgesehen sind. Man könnte es als Vertragsbruch qualifizieren, der gegebenenfalls zivilrechtliche Ansprüche auslöst. Dazu wird es Facebook aber sicher nicht kommen lassen, was angesichts der ‚flexiblen‘ Ausgestaltung der Bylaws meines Erachtens auch sehr gut möglich ist.“  

Auf die Frage, wie sichergestellt wird, dass das Board nicht vor allem die Vorschläge von Facebook prioritär behandelt und möglicherweise wichtigere und kontroversere Anfragen von Nutzern ignoriert:
„Bei den Einzelentscheidungen trifft die Auswahl ein Ausschuss des Boards (case selection committee) und in der Tat muss das Board gegebenenfalls gleichzeitig die erbetenen Stellungnahmen von Facebook (policy advisory statements) abarbeiten. Was hier wie und warum priorisiert wird, ist dem Statut nicht zu entnehmen. Die Zukunft wird zeigen, in welchem Selbstverständnis und mit wie viel Selbstvertrauen gegenüber dem das Board und seine Mitglieder finanzierenden Facebook handelt. Beißt man die Hand, die einen füttert?“

„Zum gegenwärtigen Zeitpunkt (Stand 6.2.2020) sind Prognosen angesichts des noch nicht voll besetzten Boards aber nicht mehr als Kaffeesatzleserei.“

Quirin Weinzierl

Programmbereichskoordinator „Transformation des Staates in Zeiten der Digitalisierung“, Deutsches Forschungsinstitut für öffentliche Verwaltung (FÖV) Speyer

„Insgesamt kann man sagen: Das Oversight Board ist ein lohnenswertes Experiment. Facebook versucht damit etwas absolut Neues und riskiert selbst eine große Blamage. Ob das Oversight Board ein Erfolg wird, ist noch völlig offen.“

„Es ist wichtig zu sehen, dass das Oversight Board nur eine sehr beschränkte Aufgabe hat. Das Oversight Board gleicht einem Gericht. Man kann es auch Facebooks Supreme Court nennen. Das Board ist damit beauftragt, die Einhaltung bestehender ‚content policies and values‘, also Facebooks Vorschriften über erlaubte Inhalte und seine allgemeinen Werte, zu überwachen.“

„Das Board hat nicht die Aufgabe, Facebooks Umgang mit rechtswidrigen Inhalten zu überwachen. Das Board hat auch nicht die Aufgabe, Facebook an sich zu überwachen. Das kann es auch nicht leisten. Für große Problemfelder, etwa Facebooks Marktmacht, Datenschutz und algorithmische Diskriminierung ist das Board im Augenblick nicht zuständig und wird es wohl auch nie sein. Hier ist zu einem großen Teil echte, staatliche Regulierung gefragt.“

„Facebook verfolgt mit dem Oversight Board einen grundsätzlich guten Ansatz. Es soll content decisions, also Facebooks Entscheidungen über gelöschte Inhalte, strukturiert, transparent und unabhängig überprüfen. Ob es das leisten kann, wird sich erst noch zeigen. Die Voraussetzungen stehen aber nicht schlecht.“

„Das Board schafft eine Gewaltenteilung im ‚Staat Facebook‘, in dem zugespitzt formuliert bisher Mark Zuckerberg Gesetzgeber, Regierung und Richter in einem war.“

„Das Board wird keinen leichten Start haben. Eines sehen wir bereits jetzt: Facebook scheint die Auswahl der ersten Mitglieder schwer zu fallen. Noch schwerer wird es für die Mitglieder, die aus ganz verschiedenen Kulturen und Hintergründen kommen sollten, gemeinsam zu arbeiten und Entscheidungen zu treffen. Die Mitglieder werden kleine Schritte gehen müssen. An der Aufgabe, einen weltweit gültigen Standard für freie Meinungsäußerung zu finden, kann das Board nur scheitern.“

„Der erste Fall wird der schwerste sein – selbst wenn das Board grundsätzlich besetzt ist, heißt das noch nicht, dass es auch wirklich einen Fall entscheiden wird. Gerade der Weg hin zur ersten Entscheidung wird zeigen, ob sich mehr als 20 Menschen mit ganz verschiedenen Hintergründen auf ein Verfahren und eine Entscheidung einigen können werden.“

„Das Board wird wohl die Tendenz noch verstärken, staatliche Aufgaben und politische Entscheidungsprozesse auf private Intermediäre abzuwälzen. Wir werden der Frage, was online erlaubt sein soll, damit aber nicht aus dem Weg gehen können.“

„Mit dem Oversight Board schafft Facebook Fakten. Gerade mit Blick auf den von der EU-Kommission geplanten Digital Services Act wird es damit vielleicht in der Lage sein, eine zu starke Regulierung abzuwenden.“

Auf die Frage, inwiefern das Board insbesondere im Hinblick auf die kommenden US-Wahlen genug Befugnisse hat:
„Welche Befugnisse das Oversight Board im Kontext von Wahlen genau hat, scheint noch wenig klar. Ich gehe davon aus, dass das Oversight Board wenig tun können wird, um gerade Manipulation der US-Wahl aus dem Ausland zu stoppen.“

„Im Augenblick scheint es so, als könne das Oversight Board politische Werbung nicht überwachen. Für gelöschte Inhalte etwa von Fake-Accounts ist es hingegen zuständig.“

„Es werden schnell Graubereiche auftreten, etwa die von Mike Bloomberg lancierte Werbung durch Influencer. Hier ist völlig unklar, ob diese als Wahlwerbung oder als allgemeine Postings einzustufen sind. Entscheidet das Board hierüber steht wohl der erste Konfliktfall mit Facebook ins Haus.“

„Das Board wird sich zügig den großen Fragen stellen müssen, etwa ob Fake News, Deep Fakes, personalisierte Ansprachen und Hassrede im politischen Meinungskampf zulässig sein sollen.“

„Dem Board fehlen wichtige Kompetenzen: Für Entscheidungen bezüglich ganzer Gruppen und Seiten ist es nicht zuständig. Gerade diese haben bei Wahlen jedoch eine besondere Bedeutung.“

„Wesentlich ist: Das Board kontrolliert nicht Facebooks Umgang mit gesetzlichen Bestimmungen. Wie Facebook also mit gesetzlichen Vorgaben zu Wahlwerbung und Finanzierung umgeht, kann das Board nicht beeinflussen.“

„Gleichzeitig hat das Board im Moment nur sehr begrenzte Befugnisse. Das Oversight Board hat nur die Befugnis, ‚take-downs‘ zu kontrollieren; also die Beschwerde eines Nutzers gegen die Löschung eines Beitrags. Damit hat das Board grundsätzlich nur die Möglichkeit, Fälle zu überprüfen, bei denen ein Zu-Wenig an Meinungsfreiheit beklagt wird.“

„Das Board hat auf dem Papier im Moment keine Befugnis, eine ‚leave-up‘-Entscheidung zu kontrollieren – genau dies ist in Wahlkämpfen aber oft relevant, wenn es darum geht, welche Posts erlaubt sein sollen. Gerade in Fällen, in denen es um unterbliebenes Löschen von Beiträgen geht, geht es oft auch um den Schutz der Rechte etwa von Minderheiten und politischen Gegnern. Denn diese Rechte stehen hier der Meinungsfreiheit entgegen.“

„Dass das Board keine Löschungen anordnen darf, spielt mit Blick auf Wahleinmischung durch Fake Profile eine besondere Rolle. Das Board hat nicht die Macht anzuordnen, dass Posts der einer möglichen Russischen Troll-Maschinerie zu löschen sind.“

„Es ist zu erwarten, dass das Oversight Board im Rahmen der Fälle, die es entscheiden kann, Raum haben wird, die bestehenden Content Policies allgemein auszulegen und damit Facebooks Entscheidungen auch in anderen Fällen zu beeinflussen.“

Auf die Frage, ob die Entscheidungen des Boards bezüglich einzelner Inhalte für Facebook juristisch bindend sind:
„Alle Bestimmungen, die das Oversight Board regeln, sind von Facebook geschaffenes, privates Recht. Facebook ist also rechtlich nicht gebunden, es unterwirft sich freiwillig der Bindung an die Entscheidungen des Boards.“

„Die freiwillige Bindung Facebooks besteht nur im konkret entschiedenen Einzelfall. Facebook verpflichtet sich aber, identische Fälle gleich zu behandeln, soweit es technisch möglich ist.“

„Es ist nicht zu unterschätzen, welche faktische Ausstrahlung Entscheidungen haben werden. Dies gilt gerade, weil die Entscheidungen mit Gründen versehen werden sollen und öffentlich sein werden. Damit entsteht über kurz oder lang ein umfassendes Feld von Präzedenzfällen.“

„Befolgt Facebook Entscheidungen nicht, hat das Board selbst keine Handhabe gegen Facebook. Das Board kann Facebook nicht sanktionieren. Befolgt Facebook Entscheidungen des Boards nicht, führt dies wohl zu einem großen Glaubwürdigkeitsverlust seitens der Nutzer, der kritischen Öffentlichkeit und staatlicher Stellen, die das Projekt sehr genau verfolgen werden.“

„Es ist nicht völlig ausgeschlossen, dass Nutzer die Einhaltung von Entscheidungen des Boards vor staatlichen Gerichten durchsetzen können. Dies könnte über den Weg der Allgemeinen Geschäftsbedingungen gehen. Es ist denkbar, dass deutsche Gerichte davon ausgehen, dass Facebook die Befolgung der Entscheidungen des Boards dem Nutzer gegenüber vertraglich zugesichert hat. Auf diesem Weg kontrollieren deutsche Gerichte bereits heute Facebooks Anwendung und Einhaltung der Community-Standards. Es scheint wahrscheinlich, dass deutsche Gerichte Facebook dazu zwingen, sich an Entscheidungen des Boards zu halten.“

„Es wird spannend zu sehen, ob Gerichte vom Nutzer verlangen werden, vor einer Klage gegen Facebook wegen einer ungerechtfertigten Löschung sich erst an das Board zu wenden.“

„Bei illegalen Inhalten steht jedem Nutzer weiterhin der Weg vor staatlichen Gerichte offen. Hier gelten in Deutschland die Vorschriften des NetzDG.“

Auf die Frage, wie sichergestellt wird, dass das Board nicht vor allem die Vorschläge von Facebook prioritär behandelt und möglicherweise wichtigere und kontroversere Anfragen von Nutzern ignoriert:
„Das Board hat eine sehr wichtige Befugnis: Nach den Statuten hat es das Recht, die Fälle, über die es entscheidet, selbst auszuwählen. Insofern ist zwar nicht gesichert, dass das Board die wesentlichen Fälle entscheidet – jedenfalls aber kann Facebook es nicht durch eigene Fälle blockieren.“

„Die einzige Ausnahme bilden Vorlagen von Facebook im Rahmen eines Eilverfahrens. Ein Verfahren für drängende Fälle macht Sinn. Gleichzeitig liegt hier eine gewisse Gefahr, dass Facebook das Board blockieren könnte. Die einfache Antwort hierauf ist wohl, dass sich das Board das Recht vorbehält, selbst zu entscheiden, ob ein Fall wirklich drängend ist.“

„Sinnvoll ist, dass das Board den Auftrag hat, solche Fälle zu priorisieren, die grundsätzliche Bedeutung haben.“

„Das Board hat das Recht, selbst Informationen zu sammeln und Experten anzuhören – das spricht für seine Unabhängigkeit und Eigenständigkeit.“

„Wichtig wird sein, dass der Berufungsprozess für jeden Einzelnen leicht zugänglich ausgestaltet ist. Beim dem Einrichten der NetzDG-Beschwerde wurde Facebook wegen der verwirrenden Gestaltung bereits abgestraft. Das sollte sich bei der Möglichkeit, Fälle vor das Oversight Board zu bringen, nicht wiederholen.“

„Eine spannende Frage scheint noch nicht geklärt: Hat das Board auch eine Letztentscheidungskompetenz über seine eigene Zuständigkeit? Was passiert also etwa, wenn das Board seine Zuständigkeit schleichend ausdehnt? Dem Board und Facebook wird es dabei so gehen wie Staaten und ihren Verfassungsgerichten auch: Der Kampf um Einfluss wird auf vielen Ebenen ausgetragen.“

Angaben zu möglichen Interessenkonflikten

PD Dr. Matthias Kettemann: „Es bestehen keine Interessenkonflikte. Ich habe 2019 bei Facebook geforscht und eine Studie [2] zur Regelentwicklung bei Facebook veröffentlicht. Diese wurde aber selbst finanziert.“

Prof. Dr. Anne Riechert: „Grundsätzlich sehe ich keine Interessenkonflikte. Der genannte Policy-Ansatz bezieht sich aber auf mein Forschungsgebiet und meine Mitwirkung im Projekt ‚a New Governance‘. Zudem habe ich in Diskussionsrunden der Stiftung Datenschutz mitgewirkt, die unter anderem von Facebook angeregt wurden, und habe darauf basierend zum Thema ‚Datenportabilität‘ ein Policy Paper erstellt.“

Prof. Dr. Tobias Keber: „Keine.“

Alle anderen: Keine Angaben erhalten.

Literaturstellen, die von den Experten zitiert wurden

[1] Spiegel Netzwelt (2020): Oversight Board: Facebooks "oberstes Gericht" startet mit beschränkten Befugnissen.

[2] Kettemann M, Schulz W (2020): Setting Rules for 2.7 Billion. A (First) Look into Facebook’s Norm-Making System: Results of a Pilot Study.

Literaturstellen, die vom SMC zitiert wurden

[I] Harris B (2020): Preparing the Way Forward for Facebook’s Oversight Board.

[II] Facebook (2020): Bylaws.

[III] Facebook (2020): Announcing the First Members of the Oversight Board.

[IV] Facebook Oversight Board – Mitgliedsempfehlungen.

Weitere Recherchequellen

Facebook (2020): Bylaws Summary Chart.

Jarren O, Gostomzyk T (2020): Facebook’s Hausgericht: Ein Oversight Board soll entscheiden, welche Inhalte verbreitet werden dürfen. Medienpolitik.net.