USC-Forscher haben möglicherweise den größten Einflussfaktor bei der Verbreitung von gefälschten Nachrichten gefunden: die Struktur sozialer Plattformen, Benutzer für den gewohnheitsmäßigen Austausch von Informationen zu belohnen.
Die Ergebnisse des Teams, veröffentlicht am Dienstag von Proceedings of the National Academy of Scienceskehren weit verbreitete Missverständnisse um, die Fehlinformationen verbreiten, weil Benutzern die Fähigkeiten zum kritischen Denken fehlen, die erforderlich sind, um Wahrheit von Falschheit zu unterscheiden, oder weil ihre starken politischen Überzeugungen ihr Urteilsvermögen verzerren.
Nur 15 % der gewohnheitsmäßigen Nachrichtenaustauscher in der Studie waren für die Verbreitung von etwa 30 % bis 40 % der gefälschten Nachrichten verantwortlich.
Das Forschungsteam der USC Marshall School of Business und des USC Dornsife College of Letters, Arts and Sciences fragte sich: Was motiviert diese Nutzer? Wie sich herausstellt, verfügen soziale Medien, ähnlich wie jedes Videospiel, über ein Belohnungssystem, das Benutzer dazu ermutigt, auf ihren Konten zu bleiben und weiter zu posten und zu teilen. Benutzer, die häufig posten und teilen, insbesondere sensationelle, auffällige Informationen, werden wahrscheinlich Aufmerksamkeit erregen.
„Aufgrund der belohnungsbasierten Lernsysteme in sozialen Medien entwickeln Benutzer Gewohnheiten, Informationen zu teilen, die von anderen anerkannt werden“, schrieben die Forscher. „Sobald sich Gewohnheiten gebildet haben, wird der Informationsaustausch automatisch durch Hinweise auf der Plattform aktiviert, ohne dass die Benutzer kritische Reaktionsergebnisse wie die Verbreitung von Fehlinformationen berücksichtigen.“
Das Posten, Teilen und Interagieren mit anderen in sozialen Medien kann daher zur Gewohnheit werden.
„Unsere Ergebnisse zeigen, dass Fehlinformationen nicht durch ein Defizit an Benutzern verbreitet werden. Es ist wirklich eine Funktion der Struktur der Social-Media-Sites selbst“, sagte Wendy Wood, eine Expertin für Gewohnheiten und emeritierte USC-Provost-Professorin für Psychologie und Wirtschaft.
„Die Gewohnheiten von Social-Media-Nutzern sind ein größerer Treiber für die Verbreitung von Fehlinformationen als individuelle Attribute. Wir wissen aus früheren Untersuchungen, dass einige Menschen Informationen nicht kritisch verarbeiten und andere sich Meinungen auf der Grundlage politischer Vorurteile bilden, was sich auch auf ihre Fähigkeit auswirkt, Falsches zu erkennen Geschichten online“, sagte Gizem Ceylan, die die Studie während ihrer Promotion an der USC Marshall leitete und jetzt Postdoktorandin an der Yale School of Management ist. „Wir zeigen jedoch, dass die Belohnungsstruktur von Social-Media-Plattformen eine größere Rolle spielt, wenn es um die Verbreitung von Fehlinformationen geht.“
In einem neuartigen Ansatz versuchten Ceylan und ihre Co-Autoren zu verstehen, wie die Belohnungsstruktur von Social-Media-Websites Benutzer dazu bringt, Gewohnheiten zu entwickeln, Fehlinformationen in sozialen Medien zu veröffentlichen.
Warum Fake News verbreitet werden: hinter dem sozialen Netzwerk
Insgesamt nahmen an der Studie 2.476 aktive Facebook-Nutzer im Alter von 18 bis 89 Jahren teil, die sich freiwillig als Reaktion auf Online-Werbung zur Teilnahme bereit erklärten. Sie wurden dafür entschädigt, eine ungefähr sieben Minuten lange „Entscheidungsfindungs“-Umfrage auszufüllen.
Überraschenderweise stellten die Forscher fest, dass sich die Social-Media-Gewohnheiten der Benutzer verdoppelten und in einigen Fällen die Menge an gefälschten Nachrichten, die sie teilten, verdreifachte. Ihre Gewohnheiten waren beim Teilen gefälschter Nachrichten einflussreicher als andere Faktoren, einschließlich politischer Überzeugungen und mangelnder kritischer Argumentation.
Häufige, gewohnheitsmäßige Nutzer leiteten sechsmal mehr Fake News weiter als gelegentliche oder neue Nutzer.
„Diese Art von Verhalten wurde in der Vergangenheit durch Algorithmen belohnt, die das Engagement priorisieren, wenn sie auswählen, welche Posts Benutzer in ihrem Newsfeed sehen, und durch die Struktur und das Design der Websites selbst“, sagte der zweite Autor Ian A. Anderson, ein Verhaltenswissenschaftler und Doktorand an der USC Dornsife. „Angesichts der politischen, gesundheitlichen und sozialen Folgen ist es wichtig, die Dynamik hinter der Verbreitung von Fehlinformationen zu verstehen.“
Experimentieren Sie mit verschiedenen Szenarien, um zu sehen, warum sich gefälschte Nachrichten verbreiten
Im ersten Experiment fanden die Forscher heraus, dass gewohnheitsmäßige Nutzer sozialer Medien sowohl wahre als auch gefälschte Nachrichten teilen.
In einem anderen Experiment fanden die Forscher heraus, dass das gewohnheitsmäßige Teilen von Fehlinformationen Teil eines umfassenderen Musters der Unempfindlichkeit gegenüber den geteilten Informationen ist. Tatsächlich teilten gewohnheitsmäßige Benutzer politisch widersprüchliche Nachrichten – Nachrichten, die ihre politischen Überzeugungen in Frage stellten – ebenso wie übereinstimmende Nachrichten, die sie befürworteten.
Schließlich testete das Team, ob Belohnungsstrukturen für soziale Medien entwickelt werden könnten, um den Austausch wahrer gegenüber falschen Informationen zu fördern. Sie zeigten, dass Anreize für Genauigkeit statt Popularität (wie es derzeit auf Social-Media-Sites der Fall ist) die Menge an genauen Nachrichten verdoppelten, die Benutzer auf sozialen Plattformen teilen.
Die Schlussfolgerungen der Studie:
Diese Ergebnisse deuten darauf hin, dass Social-Media-Plattformen einen aktiveren Schritt unternehmen können, als zu moderieren, welche Informationen gepostet werden, und stattdessen strukturelle Änderungen in ihrer Belohnungsstruktur anstreben, um die Verbreitung von Fehlinformationen zu begrenzen.
Mehr Informationen:
Gizem Ceylan et al, Das Teilen von Fehlinformationen ist üblich, nicht nur faul oder voreingenommen, Proceedings of the National Academy of Sciences (2023). DOI: 10.1073/pnas.2216614120