Laut einem großen Online-Experiment unter der Leitung der University of Cambridge können kurze Animationen, die den Zuschauern einen Vorgeschmack auf die Taktiken hinter Fehlinformationen geben, dazu beitragen, Menschen gegen schädliche Inhalte in sozialen Medien zu impfen, wenn sie in der Werbefläche von YouTube eingesetzt werden.
In Zusammenarbeit mit Jigsaw, einer Einheit innerhalb von Google, die sich der Bekämpfung von Bedrohungen für offene Gesellschaften verschrieben hat, hat ein Team von Psychologen der Universitäten Cambridge und Bristol 90-Sekunden-Clips erstellt, die darauf abzielen, Benutzer mit Manipulationstechniken wie Sündenbock und vorsätzlicher Inkohärenz vertraut zu machen.
Diese „Pre-Bunking“-Strategie setzt Menschen präventiv den Tropen an der Wurzel bösartiger Propaganda aus, damit sie Online-Unwahrheiten unabhängig vom Thema besser erkennen können.
Forscher hinter der Impfwissenschaft Projekt vergleichen es mit einem Impfstoff: Indem es den Menschen im Voraus eine „Mikrodosis“ an Fehlinformationen gibt, hilft es zu verhindern, dass sie in Zukunft darauf hereinfallen – eine Idee, die auf dem basiert, was der Sozialpsychologe „Impftheorie“ nennt.
Die Ergebnisse, veröffentlicht in Wissenschaftliche Fortschrittestammen aus sieben Experimenten mit insgesamt fast 30.000 Teilnehmern – darunter die erste „reale Feldstudie“ zur Impftheorie auf einer Social-Media-Plattform – und zeigen, dass das einmalige Ansehen eines Filmclips das Bewusstsein für Fehlinformationen erhöht.
Die Videos stellen Konzepte aus dem „Missinformations-Playbook“ vor, illustriert mit nachvollziehbaren Beispielen aus Film und Fernsehen wie Family Guy oder, im Falle falscher Dichotomien, Star Wars („Only a Sith deals in Absolutes“).
„YouTube hat weltweit weit über 2 Milliarden aktive Nutzer. Unsere Videos könnten leicht in die Werbefläche auf YouTube eingebettet werden, um Fehlinformationen vorzubeugen“, sagte Co-Autor der Studie, Prof. Sander van der Linden, Leiter des Social Decision-Making Lab (SDML) in Cambridge, der die Arbeit leitete.
Die Animation „Inoculation Science“ über emotionale Sprache. Emotionen sind mächtige Werkzeuge der Überzeugung. Untersuchungen zeigen, dass die Verwendung emotionaler Wörter, insbesondere solcher, die negative Emotionen wie Angst oder Empörung hervorrufen, das virale Potenzial von Social-Media-Inhalten erhöht. Diese Verwendung negativer emotionaler Worte zur Manipulation wird manchmal als „Angstmacherei“ bezeichnet. Kredit: Impfwissenschaftliches Projekt
„Unsere Forschung liefert den notwendigen Proof of Concept, dass das Prinzip der psychologischen Impfung problemlos auf Hunderte Millionen Benutzer weltweit skaliert werden kann.“
Hauptautor Dr. Jon Roozenbeek von SDML in Cambridge beschreibt die Videos des Teams als „quellenunabhängig“, wodurch Vorurteile vermieden werden, die Menschen darüber haben, woher Informationen stammen und wie sie mit dem übereinstimmen – oder nicht –, was sie bereits glauben.
„Unsere Interventionen erheben keine Behauptungen darüber, was wahr oder eine Tatsache ist, die oft bestritten wird. Sie sind effektiv für jeden, der es nicht schätzt, manipuliert zu werden“, sagte er.
Impfwissenschaft-Video über Sündenböcke. Sündenbock ist, wenn eine Person oder Gruppe herausgegriffen wird oder ungerechtfertigterweise die Schuld für ein bestimmtes Problem auf sich nimmt. Sündenböcke werden im Laufe der Geschichte häufig gesehen, sind aber auch heute noch üblich. Kredit: Impfwissenschaft
„Der Impfeffekt war bei Liberalen und Konservativen gleich. Er funktionierte bei Menschen mit unterschiedlichem Bildungsniveau und unterschiedlichen Persönlichkeitstypen. Dies ist die Grundlage einer allgemeinen Impfung gegen Fehlinformationen.“
Google – die Muttergesellschaft von YouTube – macht sich die Ergebnisse bereits zunutze. Ende August wird Jigsaw eine Prebunking-Kampagne auf mehreren Plattformen in Polen, der Slowakei und der Tschechischen Republik durchführen, um der aufkommenden Desinformation über ukrainische Flüchtlinge zuvorzukommen. Die Kampagne soll in Zusammenarbeit mit lokalen NGOs, Faktenprüfern, Akademikern und Desinformationsexperten die Widerstandsfähigkeit gegen schädliche Anti-Flüchtlings-Narrative stärken.
Inoculation Science-Video über falsche Dichotomien. Eine falsche Dichotomie (oder ein falsches Dilemma) ist ein logischer Irrtum, bei dem eine begrenzte Anzahl von Wahlmöglichkeiten oder Seiten als sich gegenseitig einschließend dargestellt werden, obwohl in Wirklichkeit mehr Optionen verfügbar sind. Dies wird auch als „Entweder-Oder-Irrtum“ bezeichnet. Kredit: Impfwissenschaft
„Schädliche Fehlinformationen nehmen viele Formen an, aber die manipulativen Taktiken und Narrative werden oft wiederholt und können daher vorhergesagt werden“, sagte Beth Goldberg, Co-Autorin und Leiterin der Forschung und Entwicklung der Jigsaw-Einheit von Google.
„Menschen Techniken wie Ad-hominem-Angriffe beizubringen, die darauf abzielen, sie zu manipulieren, kann dazu beitragen, Widerstandsfähigkeit gegenüber dem Glauben und der Verbreitung von Fehlinformationen in der Zukunft aufzubauen.
„Wir haben gezeigt, dass Videoanzeigen als Übermittlungsmethode für Prebunking-Nachrichten verwendet werden können, um Millionen von Menschen zu erreichen, möglicherweise bevor sich schädliche Narrative durchsetzen“, sagte Goldberg.
Das Team argumentiert, dass Pre-Bunking bei der Bekämpfung der Flut von Fehlinformationen möglicherweise effektiver ist als die Überprüfung jeder Unwahrheit, nachdem sie sich verbreitet hat – das klassische „Debunk“ –, was in großem Maßstab unmöglich ist und Verschwörungstheorien festigen kann, indem es sich wie persönliche Angriffe anfühlt denen, die ihnen glauben.
„Propaganda, Lügen und Irreführungen werden fast immer nach demselben Drehbuch erstellt“, sagte Co-Autor Prof. Stephan Lewandowsky von der University of Bristol. „Wir haben die Videos entwickelt, indem wir die Rhetorik von Demagogen analysiert haben, die sich mit Sündenböcken und falschen Dichotomien befassen.“
„Faktenprüfer können nur einen Bruchteil der online kursierenden Unwahrheiten widerlegen. Wir müssen den Menschen beibringen, das Spielbuch der Fehlinformationen zu erkennen, damit sie verstehen, wenn sie in die Irre geführt werden.“
Sechs anfängliche kontrollierte Experimente umfassten 6.464 Teilnehmer, wobei das sechste Experiment ein Jahr nach den ersten fünf durchgeführt wurde, um sicherzustellen, dass frühere Ergebnisse repliziert werden konnten.
Die Datenerhebung für jeden Teilnehmer war umfassend, von grundlegenden Informationen – Geschlecht, Alter, Bildung, politische Neigungen – bis hin zu Rechenfähigkeiten, konspirativem Denken, Nachrichten- und Social-Media-Check, „Bullshit-Empfindlichkeit“ und einem Persönlichkeitsinventar, neben anderen „Variablen“. “
Unter Berücksichtigung all dessen stellte das Team fest, dass Impfvideos die Fähigkeit der Menschen verbesserten, Fehlinformationen zu erkennen, und ihr Vertrauen stärkten, dies wieder tun zu können. Die Clips verbessern auch die Qualität von „Teilentscheidungen“: Schädliche Inhalte zu verbreiten oder nicht.
Zwei der Animationen wurden dann im Rahmen eines umfangreichen Experiments auf YouTube „in freier Wildbahn“ getestet, wobei Clips im Werbeplatz vor dem Video positioniert wurden, der eine Option zum Überspringen nach fünf Sekunden bietet.
Google Jigsaw setzte rund 5,4 Millionen US-YouTuber einem Impfvideo aus, fast eine Million schauten es sich mindestens 30 Sekunden lang an. Die Plattform gab dann zufällig 30 % der Benutzer, die eine freiwillige Testfrage innerhalb von 24 Stunden nach ihrer ersten Anzeige ansahen.
Die Clips zielten darauf ab, gegen Fehlinformationstaktiken einer hyperemotionalen Sprache und die Verwendung falscher Dichotomien zu impfen, und die Fragen – basierend auf fiktiven Beiträgen – wurden auf die Erkennung dieser Tropen getestet. YouTube stellte auch einer „Kontroll“-Gruppe von Nutzern, die sich kein Video angesehen hatten, dieselbe Testfrage. Insgesamt beantworteten 22.632 Nutzer eine Frage.
Trotz des intensiven „Lärms“ und der Ablenkungen auf YouTube stieg die Fähigkeit, Manipulationstechniken im Herzen von Fehlinformationen zu erkennen, um durchschnittlich 5 %.
Laut Google bedeutet die beispiellose Art des Experiments, dass kein direkter Datenvergleich verfügbar ist. Steigerungen der Markenbekanntheit durch Werbung auf YouTube – bekannt als „Brand Lift“ – sind es jedoch typischerweise begrenzt auf 1% in Umfragen unter 45.000 Nutzern.
„Die Benutzer nahmen im Durchschnitt etwa 18 Stunden nach dem Ansehen der Videos an den Tests teil, die Impfung scheint also hängen geblieben zu sein“, sagte van der Linden.
Forscher sagen, dass eine solche Anerkennungssteigerung das Spiel verändern könnte, wenn sie dramatisch auf soziale Plattformen ausgeweitet würde – etwas, das billig wäre. Die durchschnittlichen Kosten für jede Ansicht von erheblicher Länge betrugen die winzige Summe von 0,05 US-Dollar.
Roozenbeek fügte hinzu: „Wenn jemand für eine YouTube-Kampagne bezahlen möchte, die die Anfälligkeit für Fehlinformationen bei Millionen von Nutzern messbar reduziert, kann er dies tun, und das zu einem minimalen Preis pro Aufruf.“
Die ersten sechs Experimente
Bei den ersten sechs kontrollierten Experimenten wurde jedem Teilnehmer nach dem Zufallsprinzip ein 90-sekündiges „Impfvideo“ oder ein neutrales Kontrollvideo zugeteilt. Den Teilnehmern wurden dann nach dem Zufallsprinzip zehn Social-Media-Posts gezeigt: fünf mit absichtlich manipulativen Techniken (obwohl nicht alle erwiesene Unwahrheiten enthielten) und fünf neutrale Posts. Die Teilnehmer wurden gebeten, den Grad ihres Vertrauens in die Informationen, den Grad, in dem sie sie für manipulativ halten, und die Wahrscheinlichkeit, dass sie sie teilen würden, einzustufen.
Zu den Ergebnissen gehören:
YouTube-Experiment
Die YouTube-Impfungskampagne lief über fünfzehn Tage [YEAR] und richtete sich an englischsprachige Nutzer in den USA, die mindestens 18 Jahre alt waren und mindestens ein politisches oder Nachrichtenvideo auf der Plattform angesehen hatten.
Insgesamt beantworteten 22.632 Teilnehmer eine Testfrage auf YouTube: 11.432, die ein Impfvideo gesehen hatten, und 11.200, die dies nicht getan hatten.
Beispielfragen, wie sie von YouTube präsentiert werden:
Jon Roozenbeek, Psychologische Impfung verbessert die Widerstandsfähigkeit gegen Fehlinformationen in sozialen Medien, Wissenschaftliche Fortschritte (2022). DOI: 10.1126/sciadv.abo6254. www.science.org/doi/10.1126/sciadv.abo6254
Alle Impfvideos sowie Hintergrundinformationen zum Vorgehen finden Sie unter: https://impfung.science/