Wie könnte Telegram reguliert werden?

Die neue Bundesinnenministerin Nancy Faeser will stärker gegen strafbare Inhalte auf Telegram vorgehen. Auch auf der Ministerpräsidentenkonferenz war die Regulierung von Telegram ein Thema. Die Begründung lautet, dass auf Telegram besonders viel Hass und Hetze verbreitet werden – insbesondere im Zuge der Pandemie sowie aus rechtsextremen Kreisen.

Die Ausgangslage ist recht klar: Telegram ist zwar ursprünglich als Messenger gestartet, durch neue Funktionen wie Gruppen mit bis zu 200.000 Mitgliedern und Kanäle, denen unbegrenzt viele Menschen folgen können und die öffentlich einsehbar sind, wird Telegram heute aber zumindest teilweise wie ein soziales Netzwerk verwendet. Als solches würde es unter das deutsche Netzwerkdurchsetzungsgesetz (NetzDG) fallen. Dann müsste Telegram unter anderem eine Ansprechperson für die deutsche Justiz bereitstellen, einen einfachen Meldeweg für strafbare Inhalte einrichten und über diese Inhalte innerhalb von sieben Tagen eine Entscheidung treffen. Offensichtlich strafbare Inhalte müssten innerhalb von 24 Stunden gelöscht werden [I].

Das Unternehmen mit Sitz in Dubai selbst stellt sich aber quer und hat bisher zwei Verfahren wegen Verstößen gegen das NetzDG ignoriert. In seiner FAQ gibt Telegram auch an, keine Löschanfragen zu privaten Konversationen und Gruppenchats zu beantworten [II]. Das Unternehmen verfolgt explizit das Ziel, den Usern eine Plattform an die Hand zu geben, die nicht von Regierungen kontrolliert werden kann [III]. Die Kanäle von Attila Hildmann hat das Unternehmen zwar gelöscht, allerdings wird spekuliert, dass das erst auf Druck der App-Store-Anbieter Apple und Google hin geschehen ist.

Die Politik steht jetzt vor dem Problem, ein unkooperatives Unternehmen regulieren zu müssen – und das nach juristischen Standards, die nicht für einen Hybriden aus Messenger und sozialem Netzwerk wie Telegram ausgelegt sind.

 

• Prof. Dr. Tobias Keber, Professor für Medienrecht und Medienpolitik in der digitalen Gesellschaft, Hochschule der Medien Stuttgart

 

• Prof. Dr. Matthias Kettemann, Programmleiter Forschungsprogramm „Regelungsstrukturen und Regelbildung in digitalen Kommunikationsräumen“, Leibniz-Institut für Medienforschung | Hans-Bredow-Institut (HBI), und Universitätsprofessor für Innovation, Theorie und Philosophie des Rechts, Universität Innsbruck, Österreich

 

• Dr. Thilo Weichert, Mitglied des „Netzwerks Datenschutzexpertise“ und früherer langjähriger Datenschutzbeauftragter von Schleswig-Holstein

 

Statements

Prof. Dr. Tobias Keber

Professor für Medienrecht und Medienpolitik in der digitalen Gesellschaft, Hochschule der Medien Stuttgart

Auf die Frage, wie Telegram nach geltendem Recht reguliert werden kann:
„Das NetzDG geht vom Wortlaut seines Anwendungsbereichs her davon aus, dass Gegenstand der Regulierung entweder ein soziales Netzwerk ist oder ein Messenger betroffen ist. Für das soziale Netzwerk sollen die Mechanismen des NetzDG, also beispielsweise die zeitnahe Löschung offensichtlich rechtswidriger Inhalte greifen, für Messenger nicht. Dem liegt die Überlegung zugrunde, dass es sich bei sozialen Netzwerken um Werkzeuge der Massenkommunikation handelt, die Messenger dagegen der Individualkommunikation dienen. Rechtlich ist das ein großer Unterschied, weil diese Bereiche traditionell höchst unterschiedlich reguliert sind. Technische Innovationen halten sich aber nicht an diese Form der Kategorisierung. Telegram kann beides: Massenkommunikation mit den Gruppen und Individualkommunikation mit den Chats. Während der Wortlaut des NetzDG eine derart funktionsorientierte Betrachtung bisher meines Erachtens nicht hinreichend klar abbildet, wäre sie zweifelsohne im Lichte von Sinn und Zweck der Vorgaben geboten. Das könnte der Gesetzgeber auch schnell mit einer Anpassung ändern, es wäre nicht das erste wichtige Update des NetzDG.“

Auf die Frage, was die Politik tun kann, wenn Telegram Kooperation verweigert oder Strafen ignoriert:
„Der Instrumentenkoffer des Internetrechts bietet unterschiedliche Werkzeuge, deren man sich je nach Eskalationsstufe bedienen kann. Man kann, was derzeit versucht wird, einen inländischen Bußgeldbescheid wegen eines Verstoßes gegen das NetzDG im Ausland (dem Verantwortlichen von Telegram in den Vereinigten Arabischen Emiraten) zustellen und so das nationale Recht auch über Grenzen hinweg durchsetzen. Dann muss zumindest der jeweilige Zielstaat kooperieren. Klappt das nicht, muss man weitere Akteure einbeziehen. Das kann dann auch solche betreffen, die mit den Rechtsverletzungen durch und auf Telegram nur noch wenig zu tun haben. Gemeint sind Akteure, die an zentraler Stelle in die Verbreitung eingebunden sind. Aus der Perspektive Telegrams sind das die App-Stores, ohne die der Dienst in Zukunft keine Reichweite generieren kann. Diese Gatekeeper könnten Telegram aus den App-Stores werfen, weil der Dienst Hate Speech und Co. eine Plattform bietet, ohne zumutbare Sicherungsmechanismen zugunsten betroffener Userinnen und User einzuziehen. Solche Sicherungsmechanismen – etwa eine Reichweitenbeschränkung der Gruppen – wären ja denkbar und für den Anbieter technisch auch leicht umzusetzen.“

„Sind auch die nur mittelbar an der Verbreitung beteiligten App-Stores nicht zur Kooperation bereit, wäre noch denkbar, den gesamten Dienst zu sperren. Das wäre Ultima Ratio und das schwerste Geschütz im Regulierungsarsenal. Technisch sind solche Netzsperren möglich, wie man im Urheberrecht und an Sperren gegen offensichtlich rechtswidrige Streaming-Angebote im Netz sieht. Rechtlich akzeptabel wäre eine solche Sperre von Telegram im Lichte der Kommunikationsfreiheiten meiner Ansicht nach aber nicht. Es sind nur einzelne, nicht aber sämtliche und wohl auch nicht eine überwiegende Mehrheit der Inhalte auf Telegram rechtswidrig. Eine Sperre des Dienstes Telegram würde sich aber unterschiedslos und damit auch auf rechtmäßige Inhalte auswirken. Ein solches Overblocking würde beispielsweise der Europäische Gerichtshof für Menschenrechte keinesfalls akzeptieren.“

„Perspektivisch wird man den Instrumentenkoffer über die zuvor genannten Mechanismen hinaus um neue Werkzeuge erweitern müssen. Auf EU-Ebene wird mit Blick auf Messenger derzeit diskutiert, wie weit die verschiedenen Dienste interoperabel werden müssen. Wäre das geltendes Recht, würde man beispielsweise über den Dienst von Whatsapp eine Nachricht an einen befreundeten Kontakt senden können, der nur den Dienst von Signal oder eben auch den von Telegram nutzt. Unterstellt, ein solches System ließe sich politisch und technisch umsetzen, wäre zu überlegen, wie sich das auf Messenger auswirkt, die sich an keinerlei Regeln halten (‚Messenger-Outlaws‘) und man sie deshalb von der interoperablen Kommunikation ausschließt (Ächtung). Andererseits könnte gerade auch eine Interoperabilität der Messenger ein Mechanismus sein, um Gegenrede von außerhalb der Plattform zu institutionalisieren und bestehende Filterblasen auf Telegram zu zerstechen.“

Auf die Frage, inwiefern das Problem durch künftige Gesetzgebung wie den Digital Services Act adressiert wird:
„Die Lösung kann nicht durch nationales Recht, sie muss durch europäisches Recht gefunden werden. Der Digital Services Act (DSA) ist da ein Schritt in die richtige Richtung. Plattformen werden stärker in die Verantwortlichkeit genommen und es gilt das Marktortprinzip. Das bedeutet, dass sich ausländische Unternehmen an europäische Regeln halten müssen, wenn sie ihr Angebot auf den europäischen Markt und auf Userinnen und User dort ausrichten. Wie genau der DSA in seiner finalen Fassung das hier maßgebliche Problem adressieren wird, lässt sich noch nicht abschließend sagen. Fest steht, dass ein europäisch konzertiertes Vorgehen dem Grunde nach Wirkung entfaltet, wie die Datenschutzgrundverordnung (DSGVO) zeigt.“

Auf die Frage, welche andere Möglichkeiten es gibt, Hass und Hetze auf Telegram einzuschränken und inwiefern eine Strafverfolgung der Nutzer ohne Telegrams Kooperation möglich ist:
„Selbst ohne Kooperation von Telegram stehen die Ermittlungsbehörden ja nicht völlig hilflos da. Zwar nützt es, wenn Dienstanbieter kooperieren und sich beispielsweise mit ihrer Hilfe auch unter einem Pseudonym verfasste Postings mittels Auflösung der IP-Adresse konkreten Personen zuweisen lassen. Aber auch davon unabhängig lässt sich die Identität von Personen ermitteln, etwa weil sie – was durchaus häufig passiert – unter Klarnamen agieren. Virtuelle Streifen der Polizei in den nicht zugangsbeschränkten Kanälen sind möglich und dort kann man auch erfolgreich ermitteln. Ein gänzlich rechtsdurchsetzungsfreier Raum ist Telegram jedenfalls nicht.“

Prof. Dr. Matthias Kettemann

Programmleiter Forschungsprogramm „Regelungsstrukturen undRegelbildung in digitalen Kommunikationsräumen“, Leibniz-Institut für Medienforschung | Hans-Bredow-Institut (HBI), und Universitätsprofessor für Innovation, Theorie und Philosophie des Rechts, Universität Innsbruck, Österreich

Auf die Frage, wie Telegram nach geltendem Recht reguliert werden kann:
„Telegram hat sowohl eine Messenger-Funktion, die nicht unter das NetzDG fällt, als auch öffentliche Kanäle, die nicht anders zu bewerten sind als Facebook, und die unter das NetzDG fallen. Seit seine Gründer angekündigt haben, Werbung verkaufen zu wollen, liegt auch das Kriterium der Gewinnerzielungsabsicht vor. Das Bundesamt für Justiz hat daher zu Recht im Sommer zwei Verfahren gegen Telegram eingeleitet wegen Nichtdurchführung von NetzDG-konformer Moderation und Nichtbestellung eines in Deutschland ansässigen Zustellungsbevollmächtigten – mit fünf bis 50 Millionen Euro Strafandrohung.“

Auf die Frage, was die Politik tun kann, wenn Telegram Kooperation verweigert oder Strafen ignoriert:
„Telegram verweigert die Kooperation und die Zustellung über die diplomatische Vertretung Deutschlands bei Behörden des Sitzlandes VAE ist mühsam. Die Politik kann nur den Druck verstärken, was zurzeit geschieht, und vor allem Druck auf die Betreiber der App-Stores ausüben, die Telegram ‚im Programm‘ haben und die – siehe der Fall Attila Hildmann – Telegram durch die Drohung, die App aus dem Store zu werfen, beeinflussen können. Auch kann die Polizei im Rahmen der aktiven Gewahrenabwehr aktiver online ‚auf Streife‘ gehen (preventive policing) und härter und schneller gegen Rechtsverletzer*innen durchgreifen, die sie offline finden können.“

Auf die Frage, inwiefern das Problem durch künftige Gesetzgebung wie den Digital Services Act adressiert wird:
„Der DSA ist weiter konzipiert und umfasst auch Messengerdienste. Zwar fallen kleinere Dienste wie Telegram nicht unter die harten Moderations- und Transparenzpflichten wie Facebook, doch können nach dem Entwurf Gerichte und Behörden sehr wohl Anordnungen zur Beendigung von Rechtsverletzungen durch konkrete rechtsverletzende Inhalte treffen. Also eine Art erschwerte NetzDG-Durchsetzung mit einem Umweg und keiner primären Löschpflicht. Das ist schade, da vor allem ein verpflichtendes Beschwerdemanagement und eine Anzeigeverpflichtung bei bestimmten schweren Straftaten gegenüber staatlichen Strafverfolgungsbehörden gerade bei Telegram sinnvoll gewesen wäre. Dies könnte man – angesichts der noch laufenden Verhandlungen – wohl noch ändern, wenn auch mit einigem Aufwand, denn die Trilog-Verhandlungen zwischen den drei EU-Institutionen, die an Rechtsakten beteiligt sind, laufen schon. Entscheidend ist wohl die Definition, wer Inhalte ‚öffentlich verbreitet‘. Aktuell wird der Austausch von Inhalten über geschlossene (Telegram-) Gruppen nicht darunter fallen, somit würde Telegram also – zumindest hinsichtlich der geschlossenen Gruppen – keine Online-Plattformen im Sinne des DSA darstellen.“

„Aber wie gesagt: Hier kann und sollte wohl noch nachgeschärft werden, um auch kleinere Anbieter – nennen wir sie Giftzwerge – zu umfassen. Schon jetzt würde der DSA helfen: Telegram müsste jedenfalls eine zentrale Kontaktstelle für elektronische Kommunikation einrichten (Art. 10) und bei fehlender EU-Niederlassung einen rechtlichen Vertreter in der EU benennen, der für Verstöße selbst haftet (Art. 11).“

Auf die Frage, welche andere Möglichkeiten es gibt, Hass und Hetze auf Telegram einzuschränken und inwiefern eine Strafverfolgung der Nutzer ohne Telegrams Kooperation möglich ist:
„Ohne Telegrams Kooperation ist die Strafverfolgung schwerer, aber nicht unmöglich. Hier muss die Polizei im Rahmen der Ermittlungen selbst versuchen, weitere Hinweise auf die Identität der Person herauszuarbeiten. Zuletzt konnten Journalist*innen eine Gruppe von Personen offline bei Treffen observieren, die sich vorher auf Telegram verabredet hatte.“

Dr. Thilo Weichert

Mitglied des „Netzwerks Datenschutzexpertise“ und früherer langjähriger Datenschutzbeauftragter von Schleswig-Holstein

„Unsere Hoffnung in den 90er-Jahren, die von vielen Bürgerrechtsbewegten und Digitalaffinen geteilt wurde, war, dass das Internet ein Hort der Informationsfreiheit und der offenen demokratischen Diskussion sein wird. Diese Hoffnung hat sich nur teilweise erfüllt. Wir haben die Rechnung nicht mit den IT-Konzernen, Demokratiefeinden und Cyberkriminellen gemacht. Durch sie ist das Internet auch zu einem Hort von Kriminalität geworden sowie von Hass, Hetze und Falschnachrichten. Dies schädigt die Gesellschaft, beeinträchtigt die demokratische Meinungsbildung und treibt die Menschen auseinander. Auch die Persönlichkeitsrechte von vielen Menschen und der Datenschutz werden hierüber beeinträchtigt.“

„Zwar war das Internet nie ein rechtsfreier Raum. Doch hinkt die Regulierung und deren Durchsetzung oft weit der Realität hinterher. IT-Konzerne und Cyberkriminelle finden immer wieder Wege, wie sie zu ihrem Nutzen sanktionsfrei die Rechte anderer im Netz verletzen können. Die ‚Flucht ins Ausland‘ ist dabei seit Jahrzehnten ein Klassiker, den nun auch Telegram praktiziert und damit Bösewichten eine Plattform bietet – zu deren und zum eigenen Vorteil.“

„Hiergegen gibt es so lange nur beschränkt wirksame Mittel, wie sich die beteiligten Staaten nicht auf gemeinsame Prinzipien bei der Bekämpfung von Kriminalität und gemeinschaftsschädlicher Nutzung des Internets verständigen. Diese Prinzipien sollten im besten Fall völkerrechtlich festgeschrieben und in internationaler Kooperation durchgesetzt werden. Davon sind wir aber noch weit entfernt, solange autoritäre Staaten wie zum Beispiel China und Russland meinen, sie können daraus einen Nutzen ziehen, dass demokratische Gesellschaften durch Cyberattacken, Hate Speech und Fake News destabilisiert werden. Diese ‚Logik‘ wird aber nicht langfristig verfangen. Daher sollten Bemühungen zur internationalen Kooperation bei der Bekämpfung nicht nur von Cyberkriminalität, sondern auch vor Hass im Netz verstärkt werden. Es ist ein langer Weg, bis auch Staaten wie Dubai beziehungsweise die Vereinigten Arabischen Emirate, wo sich offenbar Telegram versteckt, in eine globale Internetregulierung integriert sind.“

„Leider – und auch das gehört zum Thema – nutzen auch große Plattformanbieter Hass und Fake News im Internet, um höhere Klickzahlen und längere Online-Zeiten der Nutzer zu produzieren. Diese Hass- und Fake-Economy hat das Internet nicht freier, sondern unfreier gemacht.“

„Kurzfristig muss gegenüber Telegram das Netzwerkdurchsetzungsgesetz angewandt werden. Telegram kann sich nicht darauf berufen, als Messenger privilegiert zu sein.“

„Die Plattform selbst darf aber nicht das einzige Ziel staatlicher Maßnahmen sein. Wenn es Hinweise auf Hass, Hetze und kriminelle Machenschaften gibt, müssen Sicherheitsbehörden die verwendeten Dienste für ihre Ermittlungsarbeit selbst nutzen und die konkreten Gesetzesverstöße sanktionieren.“

„Auch der Weg über die App-Stores von Google und Apple sollte zur Bekämpfung der Rechtsverstöße durch und von Telegram geprüft werden.“

„Letztlich sind alle Messenger-User gefordert: Es ist offensichtlich, dass Telegram in Deutschland eine Plattform und ein Resonanzkörper auch für Kriminelle und Hetzer ist. Die User können durch ihr eigenes Kommunikationsverhalten dazu beitragen, dass Hass, Hetze und Aggressivität nicht toleriert werden. Es gibt seriösere Messenger, über die man sich verschlüsselt unbeobachtet und sicher austauschen kann – Signal, Threema oder Wire. Ein Umzug dorthin von Telegram trägt dazu bei, dass die Spreu vom Weizen getrennt wird.“

„Mittelfristig wird der Digital Service Act europaweit koordinierte Aktivitäten ermöglichen. Telegram eignet sich als Beispiel, um die geplanten Maßnahmen auf ihre Wirksamkeit hin zu überprüfen.“

Angaben zu möglichen Interessenkonflikten

Prof. Dr. Matthias Kettemann: „Interessenkonflikte liegen keine vor.“

Dr. Thilo Weichert: „Es bestehen keine Interessenkonflikte.“

Alle anderen: Keine Angaben erhalten.

Literaturstellen, die vom SMC zitiert wurden

[I] Bundesministerium der Justiz und für Verbraucherschutz: Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken.

[II] Telegram FAQ: Ich habe illegale Inhalte auf Telegram gefunden. Wie kann ich diese löschen lassen?

[III] Telegram FAQ: Reagiert ihr auf Datenanfragen?