Social-Media-Algorithmen verstärken frauenfeindliche Inhalte bei Teenagern: Bericht

Laut einem neuen Bericht, der von Professor Nicola Shaughnessy von der School of Arts der Universität mitverfasst wurde, verstärken Social-Media-Algorithmen extreme Inhalte wie frauenfeindliche Beiträge, die schädliche Ideologien für junge Menschen normalisieren.

Die in Zusammenarbeit zwischen Kent, dem University College London (UCL) und der Association of School and College Leaders (ASCL) durchgeführte Untersuchung ergab, dass sich der Anteil frauenfeindlicher Inhalte auf der „Für Sie“-Seite von TikTok-Konten im Vergleich zu nur fünf vervierfacht hat Tage auf der Plattform, in einer algorithmischen Modellierungsstudie.

Durch Interviews mit jungen Menschen und Schulleitern stellten die Forscher außerdem fest, dass hasserfüllte Ideologien und frauenfeindliche Tropen von den Bildschirmen in die Schulen gelangt sind und sich in der Mainstream-Jugendkultur verankert haben.

Ihre Forschungsbericht„Sichereres Scrollen: Wie Algorithmen Online-Hass und Frauenfeindlichkeit für junge Menschen populär machen und gamifizieren“, wird von der Association of School and College Leaders veröffentlicht.

Die Autoren des Berichts betonen die Notwendigkeit eines „gesunden digitalen Ernährungsansatzes“ für die Bildung, um junge Menschen, Schulen, Eltern und die Gemeinschaft insgesamt zu unterstützen. Sie sagen auch, dass es wichtig sei, die Stimmen junger Menschen selbst zu vertreten, insbesondere Jungen in Diskussionen über Online-Frauenfeindlichkeit einzubeziehen, und schlagen einen „Peer-to-Peer“-Mentoring-Ansatz vor.

Professor Shaughnessy sagte: „Unsere Forschung bietet Erkenntnisse darüber, wie und warum sich soziale Medien auf junge Menschen auswirken, insbesondere auf gefährdete Gruppen, und auf die Bedeutung digitaler Kompetenz sowie das Potenzial von Peer Education zur Stärkung der Widerstandsfähigkeit. Unsere Arbeit bietet auch eine neuartige kreative Forschungsmethode.“ Verwendung von Archetypen, die aus der Feldforschung generiert wurden, um mehr über die Verarbeitung von Algorithmen in realen Kontexten zu erfahren.“

Die Hauptforscherin Dr. Kaitlyn Regehr (UCL Information Studies) sagte: „Algorithmische Prozesse auf TikTok und anderen Social-Media-Seiten zielen auf die Schwachstellen der Menschen ab – wie Einsamkeit oder das Gefühl des Kontrollverlusts – und spielen schädliche Inhalte. Während junge Menschen sich mit Themen wie sich selbst beschäftigen.“ -Schaden oder Extremismus, für sie fühlt es sich wie Unterhaltung an.

„Schädliche Ansichten und Tropen werden bei jungen Menschen mittlerweile zur Normalität. Der Online-Konsum wirkt sich auf das Offline-Verhalten junger Menschen aus, da wir beobachten, wie diese Ideologien von den Bildschirmen auf die Schulhöfe vordringen.“

„Außerdem sind sich Erwachsene oft nicht darüber im Klaren, wie schädliche algorithmische Prozesse funktionieren oder wie sie sich tatsächlich auf ihre eigene Social-Media-Sucht auswirken könnten, was die Erziehung zu diesen Themen schwierig macht.“

Die Forscher begannen die Studie mit der Befragung junger Menschen, die sich mit radikalen Online-Inhalten beschäftigten und diese produzierten. Dies floss dann in die algorithmische Studie bei der Erstellung von Archetypen ein, um Typologien von Teenagern darzustellen, die möglicherweise anfällig für eine Radikalisierung durch Online-Inhalte sind.

Die Forscher richteten auf TikTok für jeden Archetyp Konten mit unterschiedlichen Inhaltsinteressen ein, die typisch für diese Archetypen sind (z. B. die Suche nach Inhalten zum Thema Männlichkeit oder die Auseinandersetzung mit Einsamkeit). Die Forscher nutzten diese Konten, um Videos anzusehen, die TikTok in seinem „Für Dich“-Programm vorschlug. Seite, über einen Zeitraum von sieben Tagen.

Die ursprünglich vorgeschlagenen Inhalte entsprachen den erklärten Interessen jedes Archetyps, beispielsweise mit Material, das Themen wie Einsamkeit oder Selbstverbesserung untersuchte, konzentrierten sich dann jedoch zunehmend auf Wut und Schuldzuweisungen gegen Frauen. Nach fünf Tagen präsentierte der TikTok-Algorithmus viermal so viele Videos mit frauenfeindlichen Inhalten wie Objektivierung, sexueller Belästigung oder Diskreditierung von Frauen (Anstieg von 13 % der empfohlenen Videos auf 56 %).

Das Forschungsteam führte Diskussionsrunden und Interviews mit Schulleitern durch, die bestätigten, dass sich frauenfeindliche Tropen auch im persönlichen Umgang junger Menschen normalisieren.

Die Forscher geben folgende Empfehlungen: