Wie könnte Telegram reguliert werden?

Auf die Frage, wie Telegram nach geltendem Recht reguliert werden kann:
„Das NetzDG geht vom Wortlaut seines Anwendungsbereichs her davon aus, dass Gegenstand der Regulierung entweder ein soziales Netzwerk ist oder ein Messenger betroffen ist. Für das soziale Netzwerk sollen die Mechanismen des NetzDG, also beispielsweise die zeitnahe Löschung offensichtlich rechtswidriger Inhalte greifen, für Messenger nicht. Dem liegt die Überlegung zugrunde, dass es sich bei sozialen Netzwerken um Werkzeuge der Massenkommunikation handelt, die Messenger dagegen der Individualkommunikation dienen. Rechtlich ist das ein großer Unterschied, weil diese Bereiche traditionell höchst unterschiedlich reguliert sind. Technische Innovationen halten sich aber nicht an diese Form der Kategorisierung. Telegram kann beides: Massenkommunikation mit den Gruppen und Individualkommunikation mit den Chats. Während der Wortlaut des NetzDG eine derart funktionsorientierte Betrachtung bisher meines Erachtens nicht hinreichend klar abbildet, wäre sie zweifelsohne im Lichte von Sinn und Zweck der Vorgaben geboten. Das könnte der Gesetzgeber auch schnell mit einer Anpassung ändern, es wäre nicht das erste wichtige Update des NetzDG.“

Auf die Frage, was die Politik tun kann, wenn Telegram Kooperation verweigert oder Strafen ignoriert:
„Der Instrumentenkoffer des Internetrechts bietet unterschiedliche Werkzeuge, deren man sich je nach Eskalationsstufe bedienen kann. Man kann, was derzeit versucht wird, einen inländischen Bußgeldbescheid wegen eines Verstoßes gegen das NetzDG im Ausland (dem Verantwortlichen von Telegram in den Vereinigten Arabischen Emiraten) zustellen und so das nationale Recht auch über Grenzen hinweg durchsetzen. Dann muss zumindest der jeweilige Zielstaat kooperieren. Klappt das nicht, muss man weitere Akteure einbeziehen. Das kann dann auch solche betreffen, die mit den Rechtsverletzungen durch und auf Telegram nur noch wenig zu tun haben. Gemeint sind Akteure, die an zentraler Stelle in die Verbreitung eingebunden sind. Aus der Perspektive Telegrams sind das die App-Stores, ohne die der Dienst in Zukunft keine Reichweite generieren kann. Diese Gatekeeper könnten Telegram aus den App-Stores werfen, weil der Dienst Hate Speech und Co. eine Plattform bietet, ohne zumutbare Sicherungsmechanismen zugunsten betroffener Userinnen und User einzuziehen. Solche Sicherungsmechanismen – etwa eine Reichweitenbeschränkung der Gruppen – wären ja denkbar und für den Anbieter technisch auch leicht umzusetzen.“

„Sind auch die nur mittelbar an der Verbreitung beteiligten App-Stores nicht zur Kooperation bereit, wäre noch denkbar, den gesamten Dienst zu sperren. Das wäre Ultima Ratio und das schwerste Geschütz im Regulierungsarsenal. Technisch sind solche Netzsperren möglich, wie man im Urheberrecht und an Sperren gegen offensichtlich rechtswidrige Streaming-Angebote im Netz sieht. Rechtlich akzeptabel wäre eine solche Sperre von Telegram im Lichte der Kommunikationsfreiheiten meiner Ansicht nach aber nicht. Es sind nur einzelne, nicht aber sämtliche und wohl auch nicht eine überwiegende Mehrheit der Inhalte auf Telegram rechtswidrig. Eine Sperre des Dienstes Telegram würde sich aber unterschiedslos und damit auch auf rechtmäßige Inhalte auswirken. Ein solches Overblocking würde beispielsweise der Europäische Gerichtshof für Menschenrechte keinesfalls akzeptieren.“

„Perspektivisch wird man den Instrumentenkoffer über die zuvor genannten Mechanismen hinaus um neue Werkzeuge erweitern müssen. Auf EU-Ebene wird mit Blick auf Messenger derzeit diskutiert, wie weit die verschiedenen Dienste interoperabel werden müssen. Wäre das geltendes Recht, würde man beispielsweise über den Dienst von Whatsapp eine Nachricht an einen befreundeten Kontakt senden können, der nur den Dienst von Signal oder eben auch den von Telegram nutzt. Unterstellt, ein solches System ließe sich politisch und technisch umsetzen, wäre zu überlegen, wie sich das auf Messenger auswirkt, die sich an keinerlei Regeln halten (‚Messenger-Outlaws‘) und man sie deshalb von der interoperablen Kommunikation ausschließt (Ächtung). Andererseits könnte gerade auch eine Interoperabilität der Messenger ein Mechanismus sein, um Gegenrede von außerhalb der Plattform zu institutionalisieren und bestehende Filterblasen auf Telegram zu zerstechen.“

Auf die Frage, inwiefern das Problem durch künftige Gesetzgebung wie den Digital Services Act adressiert wird:
„Die Lösung kann nicht durch nationales Recht, sie muss durch europäisches Recht gefunden werden. Der Digital Services Act (DSA) ist da ein Schritt in die richtige Richtung. Plattformen werden stärker in die Verantwortlichkeit genommen und es gilt das Marktortprinzip. Das bedeutet, dass sich ausländische Unternehmen an europäische Regeln halten müssen, wenn sie ihr Angebot auf den europäischen Markt und auf Userinnen und User dort ausrichten. Wie genau der DSA in seiner finalen Fassung das hier maßgebliche Problem adressieren wird, lässt sich noch nicht abschließend sagen. Fest steht, dass ein europäisch konzertiertes Vorgehen dem Grunde nach Wirkung entfaltet, wie die Datenschutzgrundverordnung (DSGVO) zeigt.“

Auf die Frage, welche andere Möglichkeiten es gibt, Hass und Hetze auf Telegram einzuschränken und inwiefern eine Strafverfolgung der Nutzer ohne Telegrams Kooperation möglich ist:
„Selbst ohne Kooperation von Telegram stehen die Ermittlungsbehörden ja nicht völlig hilflos da. Zwar nützt es, wenn Dienstanbieter kooperieren und sich beispielsweise mit ihrer Hilfe auch unter einem Pseudonym verfasste Postings mittels Auflösung der IP-Adresse konkreten Personen zuweisen lassen. Aber auch davon unabhängig lässt sich die Identität von Personen ermitteln, etwa weil sie – was durchaus häufig passiert – unter Klarnamen agieren. Virtuelle Streifen der Polizei in den nicht zugangsbeschränkten Kanälen sind möglich und dort kann man auch erfolgreich ermitteln. Ein gänzlich rechtsdurchsetzungsfreier Raum ist Telegram jedenfalls nicht.“

Auf die Frage, wie Telegram nach geltendem Recht reguliert werden kann:
„Telegram hat sowohl eine Messenger-Funktion, die nicht unter das NetzDG fällt, als auch öffentliche Kanäle, die nicht anders zu bewerten sind als Facebook, und die unter das NetzDG fallen. Seit seine Gründer angekündigt haben, Werbung verkaufen zu wollen, liegt auch das Kriterium der Gewinnerzielungsabsicht vor. Das Bundesamt für Justiz hat daher zu Recht im Sommer zwei Verfahren gegen Telegram eingeleitet wegen Nichtdurchführung von NetzDG-konformer Moderation und Nichtbestellung eines in Deutschland ansässigen Zustellungsbevollmächtigten – mit fünf bis 50 Millionen Euro Strafandrohung.“

Auf die Frage, was die Politik tun kann, wenn Telegram Kooperation verweigert oder Strafen ignoriert:
„Telegram verweigert die Kooperation und die Zustellung über die diplomatische Vertretung Deutschlands bei Behörden des Sitzlandes VAE ist mühsam. Die Politik kann nur den Druck verstärken, was zurzeit geschieht, und vor allem Druck auf die Betreiber der App-Stores ausüben, die Telegram ‚im Programm‘ haben und die – siehe der Fall Attila Hildmann – Telegram durch die Drohung, die App aus dem Store zu werfen, beeinflussen können. Auch kann die Polizei im Rahmen der aktiven Gewahrenabwehr aktiver online ‚auf Streife‘ gehen (preventive policing) und härter und schneller gegen Rechtsverletzer*innen durchgreifen, die sie offline finden können.“

Auf die Frage, inwiefern das Problem durch künftige Gesetzgebung wie den Digital Services Act adressiert wird:
„Der DSA ist weiter konzipiert und umfasst auch Messengerdienste. Zwar fallen kleinere Dienste wie Telegram nicht unter die harten Moderations- und Transparenzpflichten wie Facebook, doch können nach dem Entwurf Gerichte und Behörden sehr wohl Anordnungen zur Beendigung von Rechtsverletzungen durch konkrete rechtsverletzende Inhalte treffen. Also eine Art erschwerte NetzDG-Durchsetzung mit einem Umweg und keiner primären Löschpflicht. Das ist schade, da vor allem ein verpflichtendes Beschwerdemanagement und eine Anzeigeverpflichtung bei bestimmten schweren Straftaten gegenüber staatlichen Strafverfolgungsbehörden gerade bei Telegram sinnvoll gewesen wäre. Dies könnte man – angesichts der noch laufenden Verhandlungen – wohl noch ändern, wenn auch mit einigem Aufwand, denn die Trilog-Verhandlungen zwischen den drei EU-Institutionen, die an Rechtsakten beteiligt sind, laufen schon. Entscheidend ist wohl die Definition, wer Inhalte ‚öffentlich verbreitet‘. Aktuell wird der Austausch von Inhalten über geschlossene (Telegram-) Gruppen nicht darunter fallen, somit würde Telegram also – zumindest hinsichtlich der geschlossenen Gruppen – keine Online-Plattformen im Sinne des DSA darstellen.“

„Aber wie gesagt: Hier kann und sollte wohl noch nachgeschärft werden, um auch kleinere Anbieter – nennen wir sie Giftzwerge – zu umfassen. Schon jetzt würde der DSA helfen: Telegram müsste jedenfalls eine zentrale Kontaktstelle für elektronische Kommunikation einrichten (Art. 10) und bei fehlender EU-Niederlassung einen rechtlichen Vertreter in der EU benennen, der für Verstöße selbst haftet (Art. 11).“

Auf die Frage, welche andere Möglichkeiten es gibt, Hass und Hetze auf Telegram einzuschränken und inwiefern eine Strafverfolgung der Nutzer ohne Telegrams Kooperation möglich ist:
„Ohne Telegrams Kooperation ist die Strafverfolgung schwerer, aber nicht unmöglich. Hier muss die Polizei im Rahmen der Ermittlungen selbst versuchen, weitere Hinweise auf die Identität der Person herauszuarbeiten. Zuletzt konnten Journalist*innen eine Gruppe von Personen offline bei Treffen observieren, die sich vorher auf Telegram verabredet hatte.“

„Unsere Hoffnung in den 90er-Jahren, die von vielen Bürgerrechtsbewegten und Digitalaffinen geteilt wurde, war, dass das Internet ein Hort der Informationsfreiheit und der offenen demokratischen Diskussion sein wird. Diese Hoffnung hat sich nur teilweise erfüllt. Wir haben die Rechnung nicht mit den IT-Konzernen, Demokratiefeinden und Cyberkriminellen gemacht. Durch sie ist das Internet auch zu einem Hort von Kriminalität geworden sowie von Hass, Hetze und Falschnachrichten. Dies schädigt die Gesellschaft, beeinträchtigt die demokratische Meinungsbildung und treibt die Menschen auseinander. Auch die Persönlichkeitsrechte von vielen Menschen und der Datenschutz werden hierüber beeinträchtigt.“

„Zwar war das Internet nie ein rechtsfreier Raum. Doch hinkt die Regulierung und deren Durchsetzung oft weit der Realität hinterher. IT-Konzerne und Cyberkriminelle finden immer wieder Wege, wie sie zu ihrem Nutzen sanktionsfrei die Rechte anderer im Netz verletzen können. Die ‚Flucht ins Ausland‘ ist dabei seit Jahrzehnten ein Klassiker, den nun auch Telegram praktiziert und damit Bösewichten eine Plattform bietet – zu deren und zum eigenen Vorteil.“

„Hiergegen gibt es so lange nur beschränkt wirksame Mittel, wie sich die beteiligten Staaten nicht auf gemeinsame Prinzipien bei der Bekämpfung von Kriminalität und gemeinschaftsschädlicher Nutzung des Internets verständigen. Diese Prinzipien sollten im besten Fall völkerrechtlich festgeschrieben und in internationaler Kooperation durchgesetzt werden. Davon sind wir aber noch weit entfernt, solange autoritäre Staaten wie zum Beispiel China und Russland meinen, sie können daraus einen Nutzen ziehen, dass demokratische Gesellschaften durch Cyberattacken, Hate Speech und Fake News destabilisiert werden. Diese ‚Logik‘ wird aber nicht langfristig verfangen. Daher sollten Bemühungen zur internationalen Kooperation bei der Bekämpfung nicht nur von Cyberkriminalität, sondern auch vor Hass im Netz verstärkt werden. Es ist ein langer Weg, bis auch Staaten wie Dubai beziehungsweise die Vereinigten Arabischen Emirate, wo sich offenbar Telegram versteckt, in eine globale Internetregulierung integriert sind.“

„Leider – und auch das gehört zum Thema – nutzen auch große Plattformanbieter Hass und Fake News im Internet, um höhere Klickzahlen und längere Online-Zeiten der Nutzer zu produzieren. Diese Hass- und Fake-Economy hat das Internet nicht freier, sondern unfreier gemacht.“

„Kurzfristig muss gegenüber Telegram das Netzwerkdurchsetzungsgesetz angewandt werden. Telegram kann sich nicht darauf berufen, als Messenger privilegiert zu sein.“

„Die Plattform selbst darf aber nicht das einzige Ziel staatlicher Maßnahmen sein. Wenn es Hinweise auf Hass, Hetze und kriminelle Machenschaften gibt, müssen Sicherheitsbehörden die verwendeten Dienste für ihre Ermittlungsarbeit selbst nutzen und die konkreten Gesetzesverstöße sanktionieren.“

„Auch der Weg über die App-Stores von Google und Apple sollte zur Bekämpfung der Rechtsverstöße durch und von Telegram geprüft werden.“

„Letztlich sind alle Messenger-User gefordert: Es ist offensichtlich, dass Telegram in Deutschland eine Plattform und ein Resonanzkörper auch für Kriminelle und Hetzer ist. Die User können durch ihr eigenes Kommunikationsverhalten dazu beitragen, dass Hass, Hetze und Aggressivität nicht toleriert werden. Es gibt seriösere Messenger, über die man sich verschlüsselt unbeobachtet und sicher austauschen kann – Signal, Threema oder Wire. Ein Umzug dorthin von Telegram trägt dazu bei, dass die Spreu vom Weizen getrennt wird.“

„Mittelfristig wird der Digital Service Act europaweit koordinierte Aktivitäten ermöglichen. Telegram eignet sich als Beispiel, um die geplanten Maßnahmen auf ihre Wirksamkeit hin zu überprüfen.“