Wenige Wochen, nachdem Elon Musks Versuch, ihn zum Schweigen zu bringen, vor Gericht vereitelt worden war, meldete sich die Anti-Hass-Forschungsorganisation The Zentrum zur Bekämpfung von digitalem Hass (CCDH), ist zurück mit eine neue Forschungsarbeit in Musks Social-Media-Plattform X (ehemals Twitter). Die Studie baut auf früheren Arbeiten auf, die seinen Einfluss auf Online-Reden untersuchten, indem sie beleuchtete, wie die von Musk vorgenommenen Richtlinienänderungen aktiv Hassreden-Poster mit erhöhter Reichweite, Engagement und sogar direkten Auszahlungen über die Abonnentenfunktion von X belohnen.
Bei der neuesten CCDH-Forschung handelt es sich um eine Fallstudie, in der die Wachstumsraten von zehn einflussreichen Konten untersucht werden, die für X Premium bezahlen und seit dem durch den Angriff der Hamas ausgelösten Israel-Gaza-Konflikt antijüdische und/oder antimuslimische Hassreden gepostet haben über Israel am 7. Oktober 2023. Einige der Konten wechselten zu Kriegshassbeiträgen, nachdem zuvor Inhalte zu Verschwörungstheorien im Zusammenhang mit COVID-19 gepostet wurden, heißt es in dem Bericht.
Die zehn Konten, die für die Studie mit dem Titel „Hass zahlt sich aus: Wie X-Konten den Israel-Gaza-Konflikt ausnutzen, um zu wachsen und zu profitieren“ erfasst werden, sind: Jackson Hinkle; Dr. Anastasia Maria Loupis; Zensierte Männer; Jake Shields; Dr. Eli David; Radio Genua; Ryan Dawson; Keith Woods; Weg der Welt; und Sam Parker.
Das CCDH stellte fest, dass diese Konten ihre Reichweite auf X steigern konnten, nachdem sie hasserfüllte Inhalte gepostet hatten, die auf den Krieg abzielten. In dem Bericht werden Beispiele für von den Konten gepostete Hassreden erörtert, etwa Tweets, in denen antisemitische Phrasen wie die Blutverleumdung dargestellt werden oder die darauf abzielen, Palästinenser zu entmenschlichen, indem sie als Ratten dargestellt werden.
„Jeder der Accounts verzeichnete in den vier Monaten vor dem 7. Oktober ein langsames Follower-Wachstum, was einem Gesamtwachstum von etwa 1 Million Followern entspricht. Allerdings haben sie in den vier Monaten nach Ausbruch des Konflikts insgesamt vier Millionen neue Follower gewonnen“, schrieb die CCDH und sagte, dass dies zusammen fast ein vierfaches Wachstum im Vergleich zu den vier Monaten vor dem Krieg darstelle.
Die Wachstumsraten einzelner Accounts, die im Laufe des Zeitraums neue Follower gewannen, schwankten, wobei der höchste verzeichnete Wachstumsmultiplikator 9,6 (für Dawsons Account) betrug, gefolgt von 8,3 (für Hinkle) und 7,1 (für Parker). Am unteren Ende verzeichnete Way of the World im Berichtszeitraum einen Zuwachs an Followern um das 1,7-Fache.
Der Bericht enthält einen ausführlichen Überblick über die Bekanntheit der verfolgten Konten und stellt beispielsweise fest, dass Hinkle von WhatsApp, YouTube und PayPal gesperrt wird. Oder dass der Account „Censored Men (anonym)“ früher im Allgemeinen den toxischen Männlichkeits-Influencer Andrew Tate verteidigte, sich aber seit dem 7. Oktober auf den Israel-Gaza-Konflikt konzentriert. Während Dawson, ein Holocaust-Leugner, der auch glaubt, dass die Terroranschläge vom 11. September von Israel verübt wurden, war zuvor von X gesperrt worden, sein Konto wurde jedoch 2023 unter Musk wieder freigegeben.
Seit der Übernahme von Twitter, als X noch im Oktober 2022 tätig war, hat der Milliardär eine Reihe von alten Kontosperren aufgehoben, darunter die Wiederaufnahme berüchtigter weißer Rassisten und Neonazis. In Verbindung mit politischen Änderungen, die Musk in Bereichen wie Inhaltsmoderation, Kontoverifizierung und Premium-Funktionen vorangetrieben hat (z. B. priorisiertes Ranking für Beiträge von kostenpflichtigen Konten), entsteht eine polarisierende Sprachplattform, auf der es immer schwieriger wird, echte Informationen von Lügen zu unterscheiden Der Ton der Beiträge tendiert allzu oft in Richtung empörender Konversation (oder Schlimmerem).
Das CCDH behauptet, dass dies beabsichtigt sei; eine bewusste Strategie von Musk, um von der Tragödie zu profitieren. Darin wird ihm vorgeworfen, hasserfüllte Accounts zu akzeptieren und X so zu konfigurieren, dass Anbieter von Hassreden in der Lage und ermutigt werden, Krieg und menschliches Leid in eine Gelegenheit zu verwandeln, ihr Profil im Dienst zu schärfen und Einnahmen aus Beiträgen zu erzielen, die Gewalt und Elend ausnutzen.
Sechs der zehn untersuchten Konten haben die Abonnementfunktion von X aktiviert, was bedeutet, dass ihre Follower sie für den Zugriff auf zusätzliche Inhalte bezahlen können. Der Bericht erfasst auch einen Beitrag von Hinkle Anfang Oktober, als er einen Screenshot teilte, auf dem er offenbar im Laufe eines Monats Werbeeinnahmen in Höhe von 550 US-Dollar erzielt hatte – und dabei direkt von der Interaktion profitierte, die durch hasserfüllte Beiträge hervorgerufen wurde.
In einer weiteren Feststellung sagte das CCDH, dass seine Analyse der Konten gezeigt habe, dass sogar kritisches Weiterteilen – etwa Zitat-Tweets, in denen hasserfüllte Inhalte angeprangert werden – deren Sichtbarkeit und Reichweite erhöhte (was möglicherweise die Möglichkeiten zur Umsatzgenerierung steigerte). Laut dem Bericht trugen solche kritischen Reshares bis zu 28 % zur Reichweite hasserfüllter Posts bei, was darauf hindeutet, dass es sich bei der Zahl um eine konservative Schätzung handelt, da sie Xs eigene algorithmische Reaktion auf diese Reshares nicht berücksichtigt, die eine weitere Verstärkung zur Gewinnung anwendet noch mehr Engagement für Werbegewinn.
Werbefinanzierte Geschäftsmodelle, die Einnahmen auf der Grundlage des Nutzerengagements erzielen, sind letztendlich die Triebfeder für diesen unsozialen Empörungsmechanismus. Im Fall von X hat Musks unberechenbares Verhalten einige Werbetreibende verärgert. Aber nicht alle: Das CCDH stellte fest, dass von allen verfolgten Konten neben hasserfüllten Posts auch Anzeigen geschaltet wurden. „Wir haben Anzeigen für Oreos, die NBA, das FBI und sogar X selbst gefunden, die in der Nähe hasserfüllter Posts platziert waren“, hieß es darin.
„Unter der Führung von Elon Musk scheint X die Strategie zu verfolgen, so viele kontroverse Inhalte wie möglich zu hosten“, sagte ein CCDH-Sprecher gegenüber Tech und antwortete auf Fragen zur Forschung. „Wir wissen, dass dieser kontroverse Inhalt süchtig macht, nicht nur für Benutzer, die ihn gutheißen, sondern auch für Benutzer, die ihn kritisieren. Der potenzielle Vorteil für
„Die in unserem Bericht untersuchten Konten sind trotz der Veröffentlichung falscher oder hasserfüllter Inhalte stark gewachsen, was zeigt, dass die Veröffentlichung solcher Inhalte kein Hindernis für das Wachstum auf X darstellt. Dies gilt nicht nur für den Israel-Gaza-Konflikt, ist aber das jüngste Beispiel für das Problem.“ Unser bisherige Forschung in Konten, die nach der Übernahme von Twitter durch Musk wieder aktiviert wurden, zeigt, dass
Imran Ahmed, CEO und Gründer des CCDH, kommentierte den Bericht in einer Erklärung und fügte hinzu: „Die Öffentlichkeit und Werbetreibende müssen mehr über die symbiotische, profitable Beziehung zwischen X und hasserfüllten ‚Influencern‘ erfahren.“ Der Gesetzgeber muss handeln, um mehr Transparenz und Rechenschaftspflicht der Plattformen durchzusetzen und es diesen Unternehmen zu ermöglichen, für die Verletzung der Bürgerrechte und der Sicherheit von Juden, Muslimen und anderen Minderheitengemeinschaften verantwortlich gemacht zu werden.“
Musk hat bereits zuvor behauptet, dass Hassreden unter seiner Aufsicht zurückgegangen seien frühere CCDH-Forschung entlarvte seine Behauptung.
X wird derzeit auch in der Europäischen Union wegen einer Reihe mutmaßlicher Verstöße gegen das Online-Governance- und Inhaltsmoderationsregime der Union untersucht, unter anderem wegen seiner Reaktion auf illegale Inhalte – zu denen auch Hassreden gehören können. Die Strafen für bestätigte Verstöße gegen das EU-Gesetz über digitale Dienste können bis zu 6 % des weltweiten Jahresumsatzes betragen.