Begrenzte „Immunisierung“ gegen Desinformation möglich?

24.08.2022

kurze Einspieler vor Youtube-Videos verbesserten bei Testpersonen die Erkennung manipulativer Techniken leicht

könnte eine skalierbare Methode sein, Anfälligkeit für Desinformation zu senken

Fachleute: Methode kann in Kombination mit anderen hilfreich sein, wichtige Frage nach langfristiger Wirkung aber unklar

Kurze Videos, die über manipulative Techniken aufklären, können bei Nutzerinnen und Nutzern die Erkennungsrate solcher Techniken verbessern, wenn sie statt Werbung vor Youtube-Videos gezeigt werden. Das könnte einen ersten Ansatz zu einer „Immunisierung“ gegen Desinformation darstellen. Zu diesem Schluss kommt eine Forschungsgruppe aus Psychologinnen und Psychologen und Mitgliedern von Googles Jigsaw-Gruppe. Die Studie wurde am 24.08.2022 im Fachjournal „Science Advances“ veröffentlicht (siehe Primärquelle).

In sieben Teilstudien haben die Forschenden die Wirkung solcher Videos untersucht. In den ersten fünf Studien haben sie den Befragten erst entweder ein Video ohne Bezug zum Thema gezeigt oder ein Video, das über eine von fünf Manipulationstechniken aufklärt: emotional manipulative Sprache, Inkohärenz, falsche Dichotomien, das Beschuldigen von Sündenböcken und ad-hominem-Angriffe. Danach sollten die Befragten einschätzen, ob fiktive Social Media Posts eine der fünf Techniken einsetzen. Bei den Befragten wurden dann vier Aspekte beurteilt: die Fähigkeit, Manipulationstechniken zu erkennen, das Selbstbewusstsein, das zu können, die Fähigkeit, vertrauenswürdige Inhalte von nicht-vertrauenswürdigen zu unterscheiden und die Qualität der Beiträge, die sie teilten. In allen vier Bereichen schnitten im Durchschnitt die Befragten besser ab, die die Videos zu den Manipulationstechniken gesehen hatten.

In Studie 6 prüften die Forschenden ein Jahr später für das Video zu emotional manipulativer Sprache unter anderem, ob die Ergebnisse replizierbar waren. Weiterhin schauten sie inwiefern andere Eigenschaften – wie Alter, Geschlecht, aber auch die Anfälligkeit einer Person für Fehlinformationen – einen Einfluss auf die Antworten hatten. Dabei konnten die Ergebnisse repliziert werden und keine der anderen abgefragten Variablen machte einen signifikanten Unterschied.

Studie 7 übertrug die Ergebnisse dann in eine reale Umgebung: Die Videos zu emotional manipulativer Sprache und falschen Dichotomien wurden hier auf Youtube gezeigt. Knapp einer Million Nutzerinnen und Nutzern wurde eines der Videos statt Werbung vor einem anderen Video angezeigt. Innerhalb von 24 Stunden wurde 30 Prozent davon in der Youtube-Oberfläche eine Frage präsentiert, bei der sie erkennen sollten, welche Manipulationstechnik in einer fiktiven Artikelüberschrift eingesetzt wurde. Die gut 20.000 Personen, die auf die Frage antworteten, schnitten beim Erkennen der Techniken ungefähr fünf Prozent besser ab als die Kontrollgruppe, die das Video nicht gesehen hatte.

Laut den Forschenden können solche Methoden aus dem Bereich der „inoculation theory“ – die Personen durch vorherige Informationen besser gegen persuasive Kommunikation oder manipulative Techniken schützen sollen – potenziell ein gutes Mittel gegen Desinformation darstellen. Sie betonen auch, dass diese Methoden einfach skalierbar sind, da das Einblenden eines der Videos statt Werbung bei Youtube nur ungefähr 0,05 Dollar kosten würde. Bei einer Skalierung auf Millionen von Nutzerinnen und Nutzern könnten sich allerdings trotzdem schnell hohe Beträge ansammeln.

Inwiefern sich die Aussagen der Studie auf andere Länder übertragen lassen, bleibt allerdings unklar. In der Studie wurden nur Teilnehmende aus den USA befragt und auch die thematisierten Sachverhalte in den fiktiven Artikelüberschriften waren auf die USA bezogen. Wie lang die beobachteten Effekte anhalten, ist ebenfalls unklar. Zuletzt stellt sich die Frage, ob die Ausspielungsart über Werbung, die oft geblockt oder weggeklickt wird, genug Leute erreicht, um eine breite Wirkung zu entfalten.

Um diese und weitere Fragen zu beantworten, haben wir Expertinnen und Experten um eine Einschätzung der Studie gebeten.

Übersicht

Prof. Dr. Joachim Allgaier, Professor für Digitalisierung und Kommunikation, Hochschule Fulda

Prof. Dr. Nicole Krämer, Leiterin des Fachgebiets Sozialpsychologie: Medien und Kommunikation, Universität Duisburg-Essen

Dr. Philipp Schmid, Post-Doktorand, Seminar für Medien- und Kommunikationswissenschaft, Universität Erfurt

Statements

Prof. Dr. Joachim Allgaier

Professor für Digitalisierung und Kommunikation, Hochschule Fulda

„Der in dieser Studie gewählte Ansatz ist meiner Meinung nach innovativ und begrüßenswert. Es werden kurze Erklärvideos herangezogen, um Social Media Usern eine Auswahl an Mechanismen zu erklären, die oft dazu benutzt werden, Fehlinformation in sozialen Medien zu verbreiten. Dieser aktuelle Ansatz wird mit einer Art ‚Schutzimpfung‘ gegen die Übernahme von verzerrten Aussagen und Falschnachrichten verglichen.“

„Auf Falschinformationen direkt mit Fakten zu reagieren, wirkt oft nicht besonders nachhaltig, daher wird hier die Strategie verfolgt, ausgewählte fehlleitende Argumentationsmuster zu beleuchten – in der Hoffnung, dass das Erkennen von bestimmten Mechanismen nachhaltiger und auf unterschiedliche Kontexte übertragbar ist. Diesen Ansatz halte auch ich für zielführend und erfolgversprechend, unter anderem auch weil er Social Media User ernst nimmt und ihnen Lernfähigkeit attestiert. Ich würde aber davon ausgehen, dass der Ansatz vorwiegend bei Menschen funktioniert, die (noch) nicht in die Welt der alternativen Fakten und Verschwörungen abgedriftet sind.“

„Die im Artikel vorgestellten Ergebnisse zeigen, dass die Videos zumindest einem Teil der Studienteilnehmer erfolgreich geholfen haben, bestimmte verzerrende Argumentationsmuster und Darstellungstechniken zu identifizieren. Hier gibt es jedoch noch Forschungsbedarf darüber, welche Social Media User empfänglich für diese Art von ‚Schutzimpfungen‘ sind, wie lange diese anhält und wie man diese am besten verabreicht.“

„Die für die Studie produzierten Videos sind zudem vor allem auf den US-amerikanischen Kontext ausgelegt. Fraglich ist, ob diese zum Beispiel auch in deutschsprachigen Ländern funktionieren würden und inwiefern derartige Videoinhalte auf bestimmte Länder- und andere Zielgruppen angepasst werden müssten. Eine weitere Frage, die für mich im Raum steht, ist, wie die Auftraggeber und Produzenten der Videos in den Videos kenntlich gemacht werden. Möglicherweise macht es einen großen Unterschied für die Wahrnehmung der Glaubwürdigkeit der Videos, wenn zum Beispiel Universitäten, Google selbst oder eine unbekannte Website (in der Studie etwa truthlabs.com) dahintersteckt – vor allem, wenn diese in Form von bezahlter Werbung auf Youtube ausgespielt werden.“

„Nichtsdestotrotz denke ich, dass überdurchschnittlich viele Youtube Nutzer über die Ausspielung derartiger Videos in Form von bezahlter Werbung erreicht werden könnten. Dabei sollten zusätzlich weitere Verbreitungskanäle in Betracht gezogen werden, um Nutzer zu erreichen, die zum Beispiel Adblocker benutzen oder Werbung grundsätzlich überspringen. Ideal wäre es, wenn Youtube seiner enormen Verantwortung als globales Informationsmedium, über das leider auch viele Falschinformationen verbreitet werden, gerecht werden würde und diesen erfolgversprechenden Ansatz in Form eines ausgeweiteten Pilotprojekts unter Realbedingungen unterstützen würde. Im Kampf gegen eine weltweit grassierende Desinformationspandemie besteht der Bedarf für mögliche ‚Impfungen‘ mehr denn je.“

Prof. Dr. Nicole Krämer

Leiterin des Fachgebiets Sozialpsychologie: Medien und Kommunikation, Universität Duisburg-Essen

„Der Ansatz der Autor*innen, mit Inoculation zu arbeiten, um Personen wie bei einer Impfung vor der Verarbeitung von und dem Glauben an Falschinformationen zu schützen, ist spannend. Inoculation ist ein in der Sozialpsychologie altbekanntes Prinzip, das darauf aufbaut, dass Personen gegen Überzeugungsversuche ‚geimpft‘ werden können, indem sie im Widerlegen von Argumenten trainiert werden. Dies wurde meines Wissens bisher noch nicht systematisch auf den Schutz vor Falschinformation angewandt. Daher ist es gut und richtig, die Wirksamkeit von Inoculation systematisch zu prüfen. Das Autor*innen-Team ist auf dem Gebiet der Falschinformationsforschung hervorragend ausgewiesen und hat eine beeindruckende Forschungsreihe durchgeführt – bei der auch die Tatsache, dass die Studien und die Hypothesen präregistriert wurden für die wissenschaftliche Qualität spricht.“

„Allerdings müssen zwei wichtige Dinge hinterfragt werden: Zum einen wird nicht wirklich nachgewiesen, ob die Wirkung über das Konzept der Inoculation funktioniert. Dieses Konzept beinhaltet eigentlich, dass Personen dadurch geschützt (‚geimpft‘) werden, dass sie die zu vermittelnden Glaubenssätze – in diesem Fall Falschinformationen – zu widerlegen lernen, indem sie vorab kleine Dosen der Falschinformation erhalten, diese widerlegen und so einen Schutz gegen den ,Falschinformationsangriff‘ erhalten, weil die zugrundeliegenden Tatsachen gut durchdacht und nicht nur oberflächlich verarbeitet wurden. Dies wird aber weder von den Autor*innen in der Intervention so gemacht, noch wird überprüft, ob es zu einer tiefergehenden Verarbeitung kommt, noch wird das eigentliche Ziel der Inoculation nachgewiesen: dass nämlich ein langfristiger Schutz aufgebaut wird. Die erste Schwäche der Studie ist somit, dass nicht betrachtet wird, ob hier wirklich Inoculation am Werk ist oder ob es sich – wie bei anderen Studien auch – um einen reinen Priming-Effekt handelt (den Effekt, dass ein vorangegangener Reiz die Verarbeitung eines darauffolgenden Reizes unbewusst beeinflusst, also dass Personen in diesem Fall wegen des gezeigten Videos kurzzeitig mit manipulativen Techniken rechnen oder stärker darauf reagieren; Anm. d. Red.). Aus wissenschaftlicher Sicht wäre es wünschenswert, den Wirkmechanismus besser zu verstehen. Damit eng verbunden ist auch die zweite Schwäche: keine der Studien – auch nicht Studie 6, obwohl es sich zunächst so anhört – prüft die langfristige Wirkung. Die Idee des Inoculation-Konzeptes ist aber insbesondere, langfristig zu schützen. Dies können die Studien aber nicht zeigen. Für die Anwendung bedeutet das, dass gegebenenfalls immer wieder solche Videos gezeigt werden müssen, um die Wirkung zu erzielen – vor allem, wenn es gar keine ‚Impfungswirkung‘ ist, sondern Priming, siehe oben. Das bringt natürlich andere praktische Probleme mit sich, wie dass solche Videos beim wiederholten Sehen vermieden oder ignoriert werden könnten, wodurch sie keine Wirkung entfalten können.“

„Es handelt sich also um den Nachweis, dass ein Trainingsansatz, bei dem Personen die manipulativen Techniken kennenlernen, hilfreich ist, um Falschinformationen erkennen zu können und zum Beispiel nicht weiterzuleiten. Nicht mehr und nicht weniger. Nicht geprüft wird, ob es sich wirklich um Inoculation handelt und es sich um einen – wie eigentlich bei Inoculation gedacht – langfristigen ‚Impfschutz‘ handelt oder nur um einen kurzfristigen Priming-Effekt.“

Dr. Philipp Schmid

Post-Doktorand, Seminar für Medien- und Kommunikationswissenschaft, Universität Erfurt

„Die Autoren zeigen, dass das Ansehen kurzer Erklärvideos die Fähigkeit der Zuschauer verbessert, Manipulationstechniken zu erkennen. Dieser Schluss zur sogenannten ‚psychologischen Impfung‘ basiert auf sechs online-Experimenten und einem Feldexperiment. Die Experimente sind methodisch einwandfrei und stützen den Schluss der Autoren. Die methodischen Stärken liegen in der statistischen Power der Einzelexperimente, der Anzahl der Experimente, dem Vorhandensein präregistrierter Methodik und vor allem der Replikation der Befunde in einem großangelegten Feldexperiment auf der online-Plattform Youtube.“

„Die inoculation theory, von der die Autoren sprechen, wurde von William McGuire in den 60er-Jahren begründet und erlebt vor allem seit dem sogenannten postfaktischen Zeitalter eine Renaissance in der sozialpsychologischen Forschung. Eine Vielzahl von Studien in den letzten Jahren zeigt immer wieder, dass das Warnen vor rhetorischen Fallstricken und manipulativen Techniken und das Bereitstellen von Korrekturen die psychologischen Abwehrkräfte gegen Falschinformationen in der Bevölkerung stärken kann. Dies betrifft den Schutz vor Falschinformation rund um Themen wie Impfen, Klimawandel oder Substanzmissbrauch. Die ersten sechs Experimente der Studie sind eine weitere Bestätigung der Befundlage zur Effektivität der psychologischen Impfung gegen Falschinformation. Mit dem siebten Experiment betreten die Autoren jedoch Neuland, da sie hier die psychologische Impfung nicht mehr in einer künstlichen, sondern in einer natürlichen Umgebung testen. Dieses Feldexperiment auf Youtube belegt die Effektivität von Erklärvideos als psychologische Impfung unter realistischen Bedingungen.“

Auf die Frage, welche Schlüsse für die praktische Anwendung möglicher Maßnahmen gegen Desinformation man aus der Studie ziehen kann:
„Viele Aufklärungskampagnen setzen bei der Bekämpfung von Falschinformationen auf nachträgliche Korrekturen von Falschinformationen – sogenanntes ‚debunking‘. Das Problem dieser Ansätze ist ihr reaktiver Charakter. Es wird gewartet, bis Wissenschaftsleugner eine neue Falschinformation streuen oder die Öffentlichkeit etwas unabsichtlich falsch versteht, bevor man reagiert. Auf diese Weise ist es unmöglich, den Falschinformationen einen Schritt voraus zu sein. Die vorliegende Studie zeigt, dass es möglich und effektiv ist, Hilfe zur Selbsthilfe in Aufklärungskampagnen zu leisten. Wenn vor generellen Techniken wie Emotionalität oder falscher Logik gewarnt wird, dann können Menschen dieses Wissen auf spätere Begegnungen mit spezifischen Falschinformationen anwenden und sich selbst schützen. Aufklärungsarbeit bedeutet nach dem Prinzip der psychologischen Impfung, proaktiv zu sein und Wissen über manipulative Techniken zu verbreiten, bevor die Öffentlichkeit Ziel von Desinformationskampagnen wird. Die psychologische Impfung ist nicht in jedem Einzelfall effektiv und so sollten zukünftige Aufklärungskampagnen im besten Fall eine Kombination aus psychologischer Impfung und debunking-Maßnahmen nutzen.“

Auf die Frage nach möglichen Limitationen der Studie:
„Wie jede Intervention steht und fällt der Erfolg von Erklärvideos als psychologische Impfung mit der Reichweite und Akzeptanz der Maßnahme. Das Feldexperiment zeigt, wie solche Interventionen durch Werbeanzeigen im Internet eine größere Reichweite erzielen können. Dennoch ist es dem Nutzer immer freigestellt, solche Anzeigen zu umgehen oder zu ignorieren. Videoeinspieler können demnach nur ein Baustein sein, um das Problem viraler Falschinformationen zu bekämpfen. Idealerweise stellen die Autoren ihr verwendetes Material zur Verfügung, sodass die Inhalte auch in moderierten Sitzungen, beispielsweise im Schulunterricht, genutzt werden können. Zukünftige Studien sollten mögliche Anwendungsgebiete der psychologischen Impfung auch im Rahmen von offline-Maßnahmen prüfen. Zudem weist die Studie einen starken Fokus auf den US-amerikanischen Raum und englische Sprache auf. Um die Generalisierbarkeit der Erkenntnisse zu festigen, sind weitere Experimente in anderen kulturellen und sprachlichen Kontexten notwendig.“

Angaben zu möglichen Interessenkonflikten

Dr. Philipp Schmid: „Ich arbeite sehr eng in einem Forschungsprojekt mit drei der Autoren zusammen, sehe darin aber keinen Interessenkonflikt.“

Alle anderen: Keine Angaben erhalten.

Primärquelle

Roozenbeek J et al. (2022): Psychological inoculation improves resilience against misinformation on social media. Science Advances. DOI: 10.1126/sciadv.abo6254.