Anfang dieser Woche, ein NBC Bericht entdeckte Facemega, eine Promi-Gesichtstausch-App, die das Potenzial hat, auf einfache Weise Deepfake-Pornos zu erstellen, die berühmte oder öffentlich zugängliche Frauen darstellen. Deepfake-Pornos beziehen sich auf gefälschte, aber sehr realistische, oft von KI generierte Pornos und sexuelle Bilder von Menschen ohne deren Zustimmung. Es überrascht nicht, dass es in der Regel auf Frauen und insbesondere weibliche Prominente abzielt; Zu den Opfern gehörten bisher beliebte weibliche Twitch-Streamer und bereits 2018 Gal Gadot.
Dem Bericht von NBC zufolge hat Facemega Hunderte verschiedener Anzeigen auf Facebook, Instagram und anderen Meta-Apps geschaltet und damit geworben, wie einfach Benutzer sich mit Personen wie Emma Watson oder Scarlet Johansson tauschen können, begleitet von hochrealistischen, sexuell anzüglichen Videobeispielen. (Dies ist natürlich trotz wie Meta verboten die meisten Deepfake-Inhalte im Jahr 2020.) Die App platzierte auch Anzeigen im Apple Store, wo sie irgendwann im letzten Jahr erstmals verfügbar wurde. Ab Dienstagabend Kat Tenbarge von NBC gemeldet dass der Apple App Store die Face-Swapping-App abgeschaltet hatte und Meta kurz nach dem ursprünglichen Bericht von NBC die Schaltung von Anzeigen dafür einstellte. Die App bleibt aber bei Google Play.
Der Bericht von NBC stellt fest, dass „in den Videos keine sexuellen Handlungen gezeigt wurden“, aber „ihre suggestive Natur“ macht deutlich, dass mindestens ein Zweck der App darin besteht, „gefälschte sexuelle Inhalte zu erzeugen“. NBC stellte außerdem fest, dass „einige der Anzeigen etwas zeigten, das wie der Anfang von pornografischen Videos aussah, wobei der bekannte Sound des Intro-Tracks der Pornoplattform Pornhub abgespielt wurde.“
„Ersetze das Gesicht durch irgendjemanden“, heißt es in den Bildunterschriften einiger Meta-Anzeigen. „Viel Spaß mit der AI-Swap-Face-Technologie.“ Facemega bietet Benutzern auch die Möglichkeit, verschiedene Prominente auf voreingestellte Videos zu tauschen, und enthält neben anderen Kategorien eine „Hot“-Kategorie, die „Videos von leicht bekleideten Frauen und Männern enthält, die tanzen und posieren“.
G/O Media kann eine Provision erhalten
Auch wenn Meta und Apple Maßnahmen ergriffen haben, um Facemega mit oder ohne App einzudämmen, ist Deepfake-Porno eine schnell wachsende Krise. Laut einem Streaming-Forscher, der mit NBC sprach, wurde im letzten Monat die größte Menge an Deepfake-Pornovideos hochgeladen, die jemals hochgeladen wurden. Diese alarmierenden Zahlen – und ein aktuelles Twitch Skandal mit einem beliebten männlichen Streamer, der sich im Januar für das Ansehen von Deepfake-Pornos weiblicher Streamer geoutet hat – machen Sie deutlich, dass nichts davon hypothetisch ist. Und das Problem wird immer schlimmer, da Deepfake-Tools immer zugänglicher werden.
Gesichtstausch-Apps und andere KI-Technologien können eingesetzt werden, um Deepfake-Pornos zu erstellen, die nicht nur auf Prominente, sondern auch auf Freunde, Kollegen und sogar flüchtige Bekannte abzielen. Experten sagen, dass KI-generierte Bilder-Apps wie Lensa AI immer beliebter werden Segen für Inhalte zum sexuellen Missbrauch von Kindern. Ein Forscher schrieb In Verdrahtet Letztes Jahr, als sie Kindheitsfotos von sich selbst auf Lensa hochlud, „resultierten völlig nackte Fotos eines jugendlichen und manchmal kindlichen Gesichts, aber eines deutlich erwachsenen Körpers“.
Und, besonders besorgniserregend, unsere Gesetze sind völlig ungeeignet, Menschen zu schützen. Während die meisten Staaten haben unterschiedliche Anti-Cyber-Exploitation-Gesetze Um „Rachepornos“ (nicht einvernehmliche Nacktbilder von Personen, die von ehemaligen Partnern oder Belästigern geteilt werden) einzudämmen, sind die einzigen Staaten, die nicht einvernehmliche Deepfake-sexuelle Inhalte ausdrücklich verbieten, Kalifornien, Virginia und Texas. Während sich Apps wie Facemega vermehren, wahrscheinlich unterstützt durch soziale Plattformen wie Meta, sind wir einfach nicht auf das Ausmaß des Schadens vorbereitet, den dies anrichten könnte.