Social Bots verbreiten zu viel Desinformation

„Die vorliegende Studie verbindet die Erkennung von Social Bots und die Analyse der Verbreitung von Informationen niedriger Qualität (information of low quality sources) zur quantitativen Bestimmung der Effektivität der Verbreitung von Desinformation durch Social Bots. Die Autoren sind in der Community durch Ihre Arbeiten zu Botometer (früher BotOrNot)(1) und Hoaxy (2) etabliert. Aus dieser Tatsache ergibt sich auch der Fokus auf die Nutzung dieser Methoden als Grundlage für die Datenbewertung (zum Beispiel Social Bots oder Menschen, die posten). Die Ergebnisse der Autoren sind unter den getroffenen Annahmen weitgehend nachvollziehbar und methodisch sehr umfangreich beschrieben. Alle präsentierten Ansätze tragen zur Annäherung an eine quantitative Bewertung von Aktivitäten oder Strategien methodisch bei.“

„Allerdings sollten aus meiner Sicht die Voraussetzungen der Studie kritisch hinterfragt werden: Die Autoren gehen davon aus, dass mit der angewendeten Methodik Social Bots und Menschen unterschieden werden können. Dazu werden Accounts, die zufällige Inhalte verbreiten, mit solchen verglichen, die Informationen (explizit) aus Quellen niedriger Qualität verbreiten. Dabei wird ein großer Unterschied in der Anzahl ‚verdächtiger‘ (Botometer Score > 0.5) Accounts festgestellt. Es ist nicht klar, inwieweit diese Accounts tatsächlich vergleichbar sind. Zudem spielen – laut vorherigen Arbeiten der Autoren – auch inhaltliche Aspekte der Posts eines Accounts in der Bewertung durch Botometer eine Rolle. Somit ist die Wirkrichtung hier nicht ganz klar – mehr Bots die Desinformation verbreiten oder mehr Accounts, die aufgrund des Inhalts als Bots identifiziert werden.“

„Die von den Autoren vorgenommene Bewertung der Bedeutung von Social Bots kann durchaus diskutiert werden. Die in der Arbeit dargestellte Strategie von Social Bots beziehnungsweise Automatisierung kann in gleicher Weise auch von menschlichen Akteuren – Trollen – durchgeführt werden. Verschiedene Arbeiten anderer Autoren berichten darüber. Eine Beschränkung auf Social Bots erscheint daher nicht zwingend. Die Autoren weisen selbst auf die Möglichkeiten – und Gefahren – von Fehlklassifizierungen hin. Sicher ist: Social Bots stellen durch die ihnen eigene Automatisierung eine komfortable Möglichkeit der Multiplikation von Inhalten dar. Sie sind aus meiner Sicht aber nicht als alleiniger Faktor im Rahmen einer Manipulationsstrategie zu betrachten. Vielmehr ist davon auszugehen, dass Manipulation über Desinformation viele Aspekte enthält, von denen nur ein Teil auf Social Bots beruht.“

„Aus meiner Sicht ist die Beschränkung von Bots nur schwer umzusetzen, ohne zugleich den Zugang zu sozialen Netzwerken für ‚normale‘ Nutzer erheblich zu erschweren – zu einer solchen Erschwerung gehören auch CATPCHAs. Bisherige Einschränkungen von Programmierschnittstellen der Plattformen sind sicherlich wirkungsvoll, wenn auch nicht ausreichend, um Bots zu bekämpfen. Über Social Bots hinaus sollten jedoch vor allem Manipulations- und Desinformationsstrategien oder -kampagnen mehr Beachtung finden. Identifiziert man Strategien, identifiziert man zugleich die Akteure – inklusive möglicher Social Bots oder Trolle.“

„Botometer ist mittlerweile ein anerkanntes Tool zur Bot-Erkennung. Zwar hat das Tool einige bekannte Probleme, aber es wird in der Forschung dennoch recht erfolgreich genutzt. Low quality information auf Ebene der Quelle zu bewerten, halte ich für sinnvoll. Auch unsere Methode zur Klassifizierung von ‚junk news‘ arbeitet auf der Ebene der Quelle, da viele Missinformations-Seiten gezielt glaubwürdige Information mit Verschwörungstheorie und ‚Fake News‘ mischen, um Nutzer zu verwirren.“

„Die Studie schließt direkt an Vosoughi. et al. (2018) [1] an. Im Unterschied zu diesem Paper, in dem Bots nur eine eingeschränkte Rolle für die Verbreitung von Missinformation zugewiesen werden konnte, ist hier die Definition von Missinformation breiter und es werden auch Reshares von Content berücksichtigt, die zuerst durch menschliche Nutzer geteilt wurden. Interessant finde ich, dass Bots einflussreiche User in ihren Tweets markieren. Das belegt auch nochmal deutlich, dass Bots für die erfolgreiche Amplifikation von Nachrichten Algorithmen, aber auch Menschen nutzen.“

Auf die Frage: Wie ließe sich die Wirkung von Social Bots bei der Verbreitung von Falschmeldungen oder Propaganda mit dem Ziel der Destabilisierung von Demokratien eindämmen?

„Ein Ansatz ist das Löschen von Bot-Accounts. Allein dieses Jahr hat Twitter bereits Millionen solcher Accounts gelöscht. Außerdem filtert Twitter auch Tweets, um deren Sichtbarkeit einzuschränken, wobei hier nicht genau klar ist, wie Twitter vorgeht. Das Spannende daran: Die API (Application Programming Interface, Schnittstelle, die externen Programmen Zugriff auf Daten ermöglicht, Anm. d. Red.), die für Forschung wie diese hier verwendet wird, zeigt die ungefilterten Tweets. Es ist also möglich, dass im Nachhinein die Sichtbarkeit von Tweets, die anfangs durch Bots amplifiziert wurden, eingeschränkt wurde.“