Verfolgung von Online-Hassreden, die realen Ereignissen folgen

Eine maschinelle Lernanalyse hat Muster in Online-Hassreden aufgedeckt, die auf komplexe – und manchmal kontraintuitive – Verbindungen zwischen realen Ereignissen und verschiedenen Arten von Hassrede hindeuten. Yonatan Lupu von der George Washington University in Washington, DC, und Kollegen stellen diese Ergebnisse im Open-Access-Journal vor PLUS EINS am 25. Januar.

Frühere Untersuchungen haben wichtige Einblicke in öffentlich gepostete Hassreden von Benutzern von Online-Communities zu Tage gefördert. Ereignisse in der realen Welt können zu einer Zunahme von Hassreden im Internet führen, und Spitzen bei Hassreden im Internet wurden mit Spitzen bei gewalttätigen Hassverbrechen in der realen Welt in Verbindung gebracht. Die meisten früheren Studien haben sich jedoch auf eine begrenzte Anzahl von Communities von moderierten Plattformen konzentriert, die Richtlinien gegen Hassreden haben.

Lupu und Kollegen kombinierten manuelle Methoden mit einer Computerstrategie, die als überwachtes maschinelles Lernen bekannt ist, um sieben Arten von Online-Hassreden in 59 Millionen Posts zu analysieren, die zwischen Juni 2019 und Dezember 2020 von Benutzern von 1.150 Online-Hassgemeinschaften veröffentlicht wurden. Einige Communities befanden sich auf den moderierten Plattformen Facebook, Instagram oder VKontakte, andere auf den weniger moderierten Plattformen Gab, Telegram und 4Chan.

Diese Analyse ergab Spitzen bei den Raten von Hassreden im Internet, die im Zusammenhang mit bestimmten realen Ereignissen auftraten. Nach einer Krise, in die syrische Flüchtlinge verwickelt waren, nahmen die einwanderungsfeindlichen Hassreden erheblich zu.

Nach den US-Wahlen im November 2020 kam es zu anhaltenderen Wellen zunehmender Hassreden im Internet. Beispielsweise wurden zunehmend Anti-LGBTQ-Beleidigungen verwendet, um verschiedene politische Ziele zu beschreiben, und Vizepräsidentin Kamala Harris war ein prominentes Ziel zunehmender geschlechtsbezogener Hassreden.

Innerhalb des Untersuchungszeitraums waren die Ermordung von George Floyd und die anschließenden Proteste mit dem größten Anstieg der Hassreden, einschließlich rassistischer Hassreden, verbunden. Aber auch andere Arten von Hassreden nahmen deutlich zu, einschließlich Hassreden, die auf Geschlechtsidentität und sexuelle Orientierung abzielen – ein Thema mit wenig intuitivem Zusammenhang mit dem Mord und den Protesten.

Obwohl die Forschung keine kausalen Schlussfolgerungen liefern kann, deuten die Ergebnisse auf eine komplexe Beziehung zwischen auslösenden Ereignissen und Online-Hassreden hin, mit potenziellen Auswirkungen auf Strategien zur Minderung solcher Äußerungen. Die Autoren fordern zusätzliche Forschung, um diese Beziehung weiter zu untersuchen, insbesondere angesichts der Tendenz der Benutzer, zu nicht moderierten Communities zu wechseln.

Die Autoren fügen hinzu: „Hassreden sind nach wie vor ein hartnäckiges und allgegenwärtiges Problem in der gesamten Social-Media-Landschaft und können nach Offline-Ereignissen auf dramatische und manchmal unerwartete Weise zunehmen.“