Unter Berufung auf einen Branchenanalysten heißt es in einem Bericht der Washington Post, dass die expliziten Videos von Althoff in den letzten sechs Monaten 178.000 Aufrufe auf Pornoseiten erzielten, aber als jemand eines der Videos auf X postete, war ihr Name auf der Plattform im Trend.
„In nur neun Stunden erhielt der Clip mehr als 4,5 Millionen Aufrufe – das 25-fache der Zuschauerzahl der Pornoseiten“, zitierte der Bericht Daten eines Branchenanalysten.
X verbietet strikt die Veröffentlichung nicht einvernehmlicher Nacktbilder
X (ehemals Twitter) hat das Posten von Bildern mit nicht einvernehmlicher Nacktheit (NCN) strengstens untersagt. Kurz nach dem Vorfall mit Taylor Swift veröffentlichte das Unternehmen einen Beitrag, in dem es seine Richtlinien hervorhob.
„Das Posten von Bildern mit nicht einvernehmlicher Nacktheit (NCN) ist auf X strengstens untersagt und wir haben eine Null-Toleranz-Politik gegenüber solchen Inhalten. Unsere Teams entfernen aktiv alle identifizierten Bilder und ergreifen entsprechende Maßnahmen gegen die Konten, die für die Veröffentlichung dieser Bilder verantwortlich sind. Wir beobachten die Situation genau, um sicherzustellen, dass weitere Verstöße sofort behoben und die Inhalte entfernt werden. „Wir sind bestrebt, eine sichere und respektvolle Umgebung für alle Benutzer aufrechtzuerhalten“, hieß es.
Tatsächlich war X eine der ersten sozialen Plattformen, die Regeln gegen synthetische und manipulierte Medien aufstellte. Seine Führungskräfte im Jahr 2020 festgestellt dass sie die Gefahr irreführender „synthetischer Medien“ erkannten und sich „verpflichteten, dies richtig zu machen“.
Der Bericht betonte jedoch, dass X unter Musks Eigentümerschaft „zu einem der mächtigsten und prominentesten Vertriebskanäle für nicht einvernehmliche Deepfake-Pornos geworden ist“.
Darin heißt es, dass die Plattform „nicht nur dazu beiträgt, dass gefälschte Fotos und Videos in einer Umgebung mit geringer Moderation viral gehen, sondern am Ende auch Deepfake-Spreader belohnen kann, die mit den manipulierten Pornos Geld verdienen können.“
„Twitter ist 4chan 2“, sagte Genevieve Oh, eine Analystin, die Deepfakes untersucht, und bezog sich dabei auf die Plattform, die dafür berüchtigt ist, Deepfake-Pornos, antisemitische Memes und Hommagen an Massenschützen zu hosten.
„Es ermutigt künftige böswillige Gestalten, sich zu koordinieren, um populärere Frauen mit synthetischem Filmmaterial und Bildmaterial zu erniedrigen“, wurde sie zitiert.
Das schlanke Team „Vertrauen und Sicherheit“ wird dafür verantwortlich gemacht
Der Bericht stellt außerdem fest, dass X zwar eine Richtlinie zum Verbot „nicht einvernehmlicher Nacktheit“ hat, deren Durchsetzung jedoch begrenzt war, und verweist auf Musks Anweisung, Tausende von Mitarbeitern zu entlassen, darunter auch diejenigen, die zum „Vertrauens- und Sicherheits“-Team gehörten, das solche Inhalte entfernt hat.
Bevor Althoffs Video an Popularität gewann, machte sich Musk übrigens über „die ganze Idee der ‚Content-Moderation‘“ lustig und teilte einen langen Beitrag, der vom Grok AI-Chatbot generiert wurde.
In dem Beitrag bezeichnete Grok die Moderation von Inhalten als „digitalen Keuschheitsgürtel“ und „dampfenden Haufen Pferdemist“, der nur von „digitalen Tyrannen“ durchgesetzt werde.
„Lasst uns der Inhaltsmoderation einen großen Mittelfinger zeigen und das Chaos des Internets annehmen!“ hieß es in dem Beitrag.