Communityübergreifende Interaktionen mit Randbenutzern steigern das Wachstum von Randgemeinschaften auf Reddit

Neue Forschungsergebnisse der EPFL haben ergeben, dass der Austausch von Kommentaren zwischen Mitgliedern und Nichtmitgliedern von Randgemeinschaften (Randinteraktionen) auf gängigen Online-Plattformen neue Mitglieder für diese extremistischen Gruppen anzieht. Die Studie schlägt auch mögliche Wege vor, um dieses Wachstum einzudämmen.

Randgruppen, die Verschwörungstheorien und extremistische Ideologien verbreiten, haben auf gängigen Online-Plattformen Erfolg gehabt, was immer wieder die Frage aufwirft, wie dieses Wachstum gefördert wird. Forscher der Fakultät für Computer- und Kommunikationswissenschaften (IC) der EPFL, die dieses Phänomen untersuchen, haben nun einen ihrer Meinung nach möglichen Mechanismus entdeckt, der dieses Wachstum unterstützt.

In ihrer Papier auf dem Preprint-Server gepostet arXivIn „Achtung, Fremde! Community-übergreifende Interaktionen mit Randbenutzern steigern das Wachstum von Randcommunities auf Reddit“, haben Wissenschaftler des Data Science Laboratory (DLAB) Randinteraktionen beschrieben – den Austausch von Kommentaren zwischen Mitgliedern und Nichtmitgliedern von Randcommunities.

Um die Auswirkungen von Interaktionen mit Randgruppen auf das Wachstum von Randgemeinschaften zu untersuchen, wendeten die Forscher textbasierte Techniken der kausalen Inferenz an und konzentrierten sich dabei auf drei prominente Gruppen auf Reddit: r/Incel, r/GenderCritical und r/The Donald.

„Es ist bekannt, dass es auf den großen sozialen Online-Plattformen extremistische Communities gibt, und ebenso bekannt ist, dass diese Plattformen versuchen, sie zu moderieren. Doch selbst mit Moderation wachsen diese Communities weiter. Wir fragten uns also, was sonst noch hinter diesem Wachstum stecken könnte“, erklärte Giuseppe Russo, Postdoktorand am DLAB.

„Wir haben festgestellt, dass Randinteraktionen – im Wesentlichen ein Austausch von Kommentaren zwischen einem ‚angreifbaren Benutzer‘ und einem Benutzer, der bereits in einer extremistischen Community aktiv ist – Menschen dazu bringen, sich diesen Gruppen zuzuwenden. Und die Kommentare sind nicht offensichtlich, wie ‚Tritt meiner Community bei‘ – es sind aktuelle Diskussionen, die die Aufmerksamkeit anderer Leute auf sich ziehen und eine clevere Möglichkeit sind, Moderationsrichtlinien zu umgehen“, fuhr er fort.

Benutzer, die diese Interaktionen erhielten, waren bis zu 4,2 Prozentpunkte eher bereit, Randgemeinschaften beizutreten, als vergleichbare Benutzer, die dies nicht taten. Dieser Effekt wurde durch die Merkmale der Gemeinschaften beeinflusst, in denen die Interaktion stattfand (z. B. links- oder rechtsgerichtete Gemeinschaften) und die in den Interaktionen verwendete Sprache. Giftige Sprache hatte eine um 5 Prozentpunkte höhere Chance, Neulinge in Randgemeinschaften zu locken, als nicht toxische Interaktionen.

Sobald ein gefährdeter Benutzer an einem Kommentaraustausch teilgenommen hatte, war es nur noch ein Mausklick, um eine extremistische Online-Community zu finden, da jedes Benutzerprofil sofort die Gruppen anzeigt, in denen jemand aktiv war. Die Forscher stellten außerdem fest, dass diese Rekrutierungsmethode nur bei extremistischen Communities vorkommt – sie konnten sie nicht in Klima-, Gaming-, Sport- oder anderen Communities feststellen – was die Hypothese stützt, dass dies eine beabsichtigte Strategie sein könnte.

„Der Rekrutierungsmechanismus ist sehr einfach, es handelt sich buchstäblich nur um einen Austausch von Kommentaren. Eine kleine Diskussion genügt, um gefährdete Benutzer in diese schlechten Communities zu treiben, und wenn sie erst einmal dort sind, radikalisieren sie sich, wie viele frühere Studien gezeigt haben, und werden zu aktiven Mitgliedern dieser extremistischen Communities“, sagte Russo.

Die Forschungsergebnisse werfen wichtige Fragen auf: Ist dieser Rekrutierungsmechanismus relevant genug, um die Aufmerksamkeit der Moderationsrichtlinien von Online-Plattformen zu rechtfertigen, und wenn ja, wie können wir verhindern, dass er das Wachstum dieser extremistischen Communities fördert?

Basierend auf dem betrachteten Beobachtungszeitraum schätzen die Forscher, dass ungefähr 7,2 %, 3,1 % und 2,3 % der Benutzer, die r/Incels, r/GenderCritical bzw. r/The Donald beigetreten sind, dies taten, nachdem sie mit Mitgliedern dieser Gruppen interagiert hatten.

Sie sagen, dies lege nahe, dass Moderationsrichtlinien auf Community-Ebene mit Sanktionen für einzelne Benutzer kombiniert werden könnten, beispielsweise indem die Sichtbarkeit ihrer Beiträge verringert oder die Anzahl der Kommentare, die sie in anfälligeren Communities abgeben können, begrenzt wird. Die Forscher glauben, dass diese Maßnahmen die Auswirkungen von Randgruppeninteraktionen verringern und das Wachstum von Randgruppen auf Mainstream-Plattformen verlangsamen könnten.

„Aus gesellschaftlicher Sicht halte ich dies aus vielen Gründen für äußerst relevant. Einer davon ist, dass wir gesehen haben, dass die Auswirkungen dieser Randgruppen nicht nur online stattfinden, sondern auch offline. Wir haben Aufstände und Terror erlebt, wir haben gesehen, wie Frauen von Mitgliedern dieser Gruppen angegriffen und getötet wurden. Indem wir den Zugang zu diesen Gruppen einschränken, verringern wir definitiv das Risiko offline, und das ist es, was uns letztendlich wirklich am Herzen liegt“, schloss Russo.