Letzten Monat mehrere Bilder von Popstars Taylor Swift wurden millionenfach geteilt und angesehen. Dabei handelte es sich nicht um gewöhnliche Fotos, sondern um explizite Fotos, die mit erstellt wurden KI-Technologie. Zu dieser Zeit gab es nur wenige Informationen über ihre Herkunft und wer sie geschaffen hatte. In einem Bericht wurde nun behauptet, dass diese expliziten Bilder als Teil eines entstanden sind Online-Herausforderung in einem Internetforum 4chan.
Nach Angaben des Forschungsunternehmens Graphika wurden die Bilder auf eine Community auf 4chan zurückgeführt. Die Mitglieder der Gruppe nahmen an einer Online-Challenge teil, um Sicherheitsmechanismen zu durchbrechen, die Menschen daran hindern sollten, solche Bilder mit KI zu erstellen.
Dem Bericht zufolge nahmen Benutzer des Forums an täglichen Wettbewerben teil, um Wörter und Phrasen zu finden, die ihnen dabei halfen, die Filter beliebter Bildgenerierungsdienste zu umgehen, zu denen Microsoft Designer und DALL-E von OpenAI gehören. Die Forscher fanden heraus, dass das ultimative Ziel der Herausforderung darin bestand, sexuelle Bilder prominenter Frauenfiguren wie Sängerinnen und Politiker zu erstellen.
„Während virale pornografische Bilder von Taylor Swift die allgemeine Aufmerksamkeit auf das Problem der von KI erzeugten, nicht einvernehmlichen Intimbilder gelenkt haben, ist sie bei weitem nicht das einzige Opfer“, wurde Cristina López G., leitende Analystin bei Graphika, von Bloomberg zitiert Sprichwort.
Die Fotos wurden auf 4chan erstellt und auf Telegram und X verbreitet
Die Analyse von Graphika legt nahe, dass die Deepfakes Anfang Januar auf dem Kanal entstanden und dann zu Telegram und X (ehemals Twitter) gelangten, wo sie von Millionen gesehen wurden und Empörung auslösten. Berichten zufolge blieb damals eines der Bilder 17 Stunden lang auf X und hatte mehr als 45 Millionen Aufrufe.
„In der 4chan-Community, aus der diese Bilder stammen, ist sie nicht einmal die am häufigsten angegriffene Persönlichkeit des öffentlichen Lebens. Das zeigt, dass auf diese Weise jeder angesprochen werden kann, von Weltstars bis hin zu Schulkindern“, fügte López G. hinzu.
Es entstehen explizite Bilder anderer Prominenter
In dem Bericht heißt es auch, dass der 4chan-Kanal neben Swift auch explizite Bilder von vielen Prominenten beherbergt, darunter Billie Eilish, Ariana Grande und Emma Watson.
Nach Angaben des Forschungsunternehmens Graphika wurden die Bilder auf eine Community auf 4chan zurückgeführt. Die Mitglieder der Gruppe nahmen an einer Online-Challenge teil, um Sicherheitsmechanismen zu durchbrechen, die Menschen daran hindern sollten, solche Bilder mit KI zu erstellen.
Dem Bericht zufolge nahmen Benutzer des Forums an täglichen Wettbewerben teil, um Wörter und Phrasen zu finden, die ihnen dabei halfen, die Filter beliebter Bildgenerierungsdienste zu umgehen, zu denen Microsoft Designer und DALL-E von OpenAI gehören. Die Forscher fanden heraus, dass das ultimative Ziel der Herausforderung darin bestand, sexuelle Bilder prominenter Frauenfiguren wie Sängerinnen und Politiker zu erstellen.
„Während virale pornografische Bilder von Taylor Swift die allgemeine Aufmerksamkeit auf das Problem der von KI erzeugten, nicht einvernehmlichen Intimbilder gelenkt haben, ist sie bei weitem nicht das einzige Opfer“, wurde Cristina López G., leitende Analystin bei Graphika, von Bloomberg zitiert Sprichwort.
Die Fotos wurden auf 4chan erstellt und auf Telegram und X verbreitet
Die Analyse von Graphika legt nahe, dass die Deepfakes Anfang Januar auf dem Kanal entstanden und dann zu Telegram und X (ehemals Twitter) gelangten, wo sie von Millionen gesehen wurden und Empörung auslösten. Berichten zufolge blieb damals eines der Bilder 17 Stunden lang auf X und hatte mehr als 45 Millionen Aufrufe.
„In der 4chan-Community, aus der diese Bilder stammen, ist sie nicht einmal die am häufigsten angegriffene Persönlichkeit des öffentlichen Lebens. Das zeigt, dass auf diese Weise jeder angesprochen werden kann, von Weltstars bis hin zu Schulkindern“, fügte López G. hinzu.
Es entstehen explizite Bilder anderer Prominenter
In dem Bericht heißt es auch, dass der 4chan-Kanal neben Swift auch explizite Bilder von vielen Prominenten beherbergt, darunter Billie Eilish, Ariana Grande und Emma Watson.