Nicht einvernehmliche Deepfake-Pornos von Taylor Swift gingen diese Woche auf X viral, wobei ein Beitrag mehr als einbrachte 45 Millionen Aufrufe, 24.000 Reposts und Hunderttausende Likes, bevor es entfernt wurde.
Der Popstar hat eine der engagiertesten, extrem online und unfassbar riesigen Fangemeinden der Welt. Jetzt sind die Swifties auf der Suche nach Blut.
Wenn Mega-Fandoms sich organisieren, sind sie zu gewaltigen Dingen fähig, etwa wenn K-Pop-Fans zurückhaltend sind Hunderte von Tickets zu einer Kundgebung von Donald Trump, um die Besucherzahlen zu senken. Da die US-Präsidentschaftswahlen 2024 näher rückten, haben einige Experten dies sogar getan theoretisiert über die Leistung der Swifties als Wählerblock.
Aber heute ist kein Wahltag, und Swifties konzentrieren sich auf etwas Wichtigeres: die nicht einvernehmlichen Deepfakes des Musikers so schwer wie möglich zu finden. Wenn Sie jetzt auf Auf X ist der Satz „PROTECT TAYLOR SWIFT“ mit über 36.000 Beiträgen im Trend.
Manchmal können diese Fandom-Kampagnen eine Grenze überschreiten. Während einige Fans sich gegenseitig dazu ermutigen, die X-Benutzer zu doxen, die die Deepfakes verbreitet haben, machen sich andere Sorgen, Belästigung mit noch mehr Belästigung zu bekämpfen, insbesondere wenn der mutmaßliche Täter einen relativ häufigen Namen hat, und in einigen Fällen könnten die Swifties das Falsche verfolgen Kerl. Bei so vielen tausend Fans, die sich für die Sache engagieren, ist es unvermeidlich, dass nicht jeder Swiftie Teil derselben einheitlichen Front sein wird – und einige sind mehr mit der „Reputation“-Ära verbunden als andere.
Mit dem Aufkommen zugänglicher generativer KI-Tools hat sich diese Belästigungstaktik so weit verbreitet, dass das FBI und internationale Strafverfolgungsbehörden letztes Jahr eine gemeinsame Vereinbarung herausgegeben haben Stellungnahme über die Bedrohung durch Sextortion. Entsprechend Forschung Laut der Cybersicherheitsfirma Deeptrace sind etwa 96 % der Deepfakes pornographisch und zeigen fast immer Frauen.
„Deepfake-Pornografie ist ein Phänomen, das ausschließlich auf Frauen abzielt und ihnen schadet“, heißt es in dem Bericht. Dieser Missbrauch hat sogar versickerte hinein Schulen, wo minderjährige Mädchen von ihren Klassenkameraden mit expliziten, nicht einvernehmlichen Deepfakes angegriffen wurden. Für einige Fans von Taylor Swift geht es also nicht nur darum, den Star zu schützen. Sie erkennen, dass diese Angriffe jedem von ihnen passieren können, nicht nur Prominenten, und dass sie dafür kämpfen müssen, einen Präzedenzfall zu schaffen, dass dieses Verhalten untragbar ist.
„Sie nimmt den Schlag jetzt für uns alle auf sich“, sagte ein TikTok-Benutzer namens LeAnn in einem Video fordert die Benutzer auf, Swift zu verteidigen. „Indem Sie sie beschützen, schützen Sie sich selbst und Ihre Töchter.“
Entsprechend 404 MedienDie Bilder stammen aus einem Telegram-Chat, der sich der Erstellung nicht einvernehmlicher, expliziter Bilder von Frauen mithilfe generativer KI widmet. Die Gruppe weist ihre Benutzer an, KI-Deepfakes auf dem Designer von Microsoft zu erstellen; obwohl diese Art von Inhalt gegen die Rechte verstößt Microsoft-Richtlinieseine KI ist immer noch in der Lage, es zu erstellen, und Benutzer haben einfache Problemumgehungen erstellt, um grundlegende Sicherheitstools zu umgehen.
Microsoft und X antworteten vor der Veröffentlichung nicht auf die Bitte um Stellungnahme.
Der Kongress macht einige gesetzgeberische Fortschritte, um nicht einvernehmliche Deepfakes zu kriminalisieren. Virginia hat Deepfake-Rachepornos verboten, und die Abgeordnete Yvette Clarke (D-NY) hat kürzlich den DEEPFAKES Accountability Act wieder eingeführt, den sie erstmals 2019 vorgeschlagen hatte. Während sich Kritiker über die Schwierigkeit Sorgen machen, die dunklen Ecken des Internets gesetzlich zu regeln, sagen einige, dass der Gesetzentwurf dies tun könnte zumindest einen rechtlichen Präzedenzfall zum Schutz vor diesem Missbrauch schaffen. Swifts Fans machten auch auf die Misserfolge von Ticketmaster aufmerksam, dem Unterhaltungs-Megakonzern, zu dem auch Live Nation gehört. In einer besonders denkwürdigen Erklärung sagte FTC-Vorsitzende Lina Khan letztes Jahr, dass die katastrophale Erfahrung, Tickets für Swifts Eras-Tour zu kaufen, „über Nacht mehr Menschen der Generation Z in Antimonopolisten verwandelt hat, als alles, was ich hätte tun können.“
Diese Missbrauchskampagne ist ein Sinnbild für die Probleme mit dem steilen Aufstieg der KI: Unternehmen bauen zu schnell, um die Risiken der von ihnen versendeten Produkte richtig einzuschätzen. Vielleicht werden Taylor-Swift-Fans den Kampf für eine durchdachte Regulierung von sich schnell entwickelnden KI-Produkten aufnehmen – aber wenn es einer Massenbelästigungskampagne gegen eine Berühmtheit bedarf, damit wenig erprobte KI-Modelle überhaupt einer Prüfung unterzogen werden, dann ist das ein ganz anderes Problem.