Ein Forschungsteam der George Washington University hat eine neuartige Formel entwickelt, die zeigt, wie, warum und wann sich Hassrede in den sozialen Medien verbreitet. Die Forscher stellten eine auf den ersten Prinzipien basierende dynamische Theorie vor, die einen neuen Bereich der Physik erforscht, um den Schockwelleneffekt darzustellen, der durch bigotte Inhalte in Online-Communities erzeugt wird.
Dieser Effekt zeigt sich bei leicht moderierten Websites wie 4Chan und stark regulierten sozialen Plattformen wie Facebook. Darüber hinaus breitet sich Hassrede in Online-Communities nach einem Muster aus, dem nicht hasserfüllte Inhalte normalerweise nicht folgen.
Der Artikel wurde veröffentlicht in Briefe zur körperlichen Untersuchung am 5. Juni 2023.
Die neue Theorie berücksichtigt kürzlich gewonnene Erkenntnisse über die entscheidende Rolle integrierter Gemeinschaften beim Wachstum des Online-Extremismus. Die Formel wägt die konkurrierenden Kräfte der Fusion und Spaltung ab und berücksichtigt die spontane Entstehung integrierter Gemeinschaften durch die Aufnahme anderer Gemeinschaften und interessierter Einzelpersonen (Fusion) sowie die Disziplinarmaßnahmen, die Moderatoren gegen Benutzer und Gruppen ergreifen, die gegen die Regeln einer bestimmten Plattform verstoßen ( Fission).
Die Forscher hoffen, dass die Formel Moderatoren als Werkzeug dienen kann, um die schockwellenartige Verbreitung hasserfüllter Inhalte zu projizieren und Methoden zu entwickeln, um sie zu verzögern, abzulenken und zu verhindern, dass sie außer Kontrolle gerät. Die neuartige Theorie könnte auch über Social-Media-Plattformen und Online-Messageboards hinaus angewendet werden und möglicherweise Moderationsstrategien auf Blockchain-Plattformen, generativer KI und dem Metaversum vorantreiben.
„Diese Studie präsentiert die fehlenden wissenschaftlichen Erkenntnisse darüber, wie Schäden im Internet entstehen und wie sie somit überwunden werden können“, sagte Neil Johnson, Professor für Physik an der George Washington University und Mitautor der Studie. „Diese fehlende Wissenschaft ist eine neue Form der Stoßwellenphysik.“
Mehr Informationen:
Pedro D. Manrique et al., Shockwavelike Behavior across Social Media, Briefe zur körperlichen Untersuchung (2023). DOI: 10.1103/PhysRevLett.130.237401