Pop-Symbol Taylor Swift wurde das neueste Ziel von Deepfakes wie ihre KI sexuell erzeugt explizit Bilder überschwemmten diese Woche die Social-Media-Plattform X. Die Deepfakes, die millionenfach angeklickt wurden, sorgten für Aufschrei, als Politiker und Technologie-CEOs einschritten und die Entwicklung kritisierten.
Microsoft-CEO Satya Nadella gehörte zu denen, die die Bilder als „alarmierend und schrecklich“ bezeichneten und sagten: „Ich denke, es liegt an uns, hier schnell voranzukommen.“ Der Fall wirft Bedenken hinsichtlich der Online-Sicherheit und der ethischen Auswirkungen der KI-Technologie auf.
Das sagte Nadella in einem Interview mit NBC
Ich würde zwei Dinge sagen: Erstens, kehre ich wieder zu dem zurück, was meiner Meinung nach in unserer Verantwortung liegt, nämlich all den Leitplanken, die wir rund um die Technologie setzen müssen, damit sicherere Inhalte produziert werden. Und da gibt es viel zu tun und es wird viel getan. Aber es geht um globale, gesellschaftliche – Sie wissen schon, ich würde sagen, Konvergenz bei bestimmten Normen. Und das können wir – vor allem, wenn es Gesetze, Strafverfolgungs- und Technologieplattformen gibt, die zusammenkommen können – ich denke, wir können viel mehr regieren, als wir denken – das geben wir uns selbst zugute.
Nadellas Kommentare sind in diesem Fall wichtig, da Berichten zufolge die Bilder von einem Telegram-Kanal stammen, der dafür bekannt ist, KI-generierte Pornografie zu verbreiten. Laut einem Bericht von 404 Media sind diese sexuell eindeutig KI-generierte Bilder von Taylor Swift wurden mit einem Tool erstellt: dem kostenlosen Text-zu-Bild-KI-Generator von Microsoft.
Obwohl KI-Tools sich weigern, solche Bilder zu erstellen, haben mehrere Studien und Untersuchungen in der Vergangenheit gezeigt, dass diese KI-Tools dazu verleitet werden können, solche Bilder zu erstellen, wenn die Person, die sie verwendet, relativ optimierte Eingabeaufforderungen eingibt.
Unterdessen äußerten Fans von Taylor Swift und Politiker, darunter auch das Weiße Haus, ihre Empörung über die KI-generierten gefälschten Pornobilder des Popstars. Einem Bericht zufolge wurde ein Bild des US-Megastars 47 Millionen Mal auf X gesehen.
Microsoft-CEO Satya Nadella gehörte zu denen, die die Bilder als „alarmierend und schrecklich“ bezeichneten und sagten: „Ich denke, es liegt an uns, hier schnell voranzukommen.“ Der Fall wirft Bedenken hinsichtlich der Online-Sicherheit und der ethischen Auswirkungen der KI-Technologie auf.
Das sagte Nadella in einem Interview mit NBC
Ich würde zwei Dinge sagen: Erstens, kehre ich wieder zu dem zurück, was meiner Meinung nach in unserer Verantwortung liegt, nämlich all den Leitplanken, die wir rund um die Technologie setzen müssen, damit sicherere Inhalte produziert werden. Und da gibt es viel zu tun und es wird viel getan. Aber es geht um globale, gesellschaftliche – Sie wissen schon, ich würde sagen, Konvergenz bei bestimmten Normen. Und das können wir – vor allem, wenn es Gesetze, Strafverfolgungs- und Technologieplattformen gibt, die zusammenkommen können – ich denke, wir können viel mehr regieren, als wir denken – das geben wir uns selbst zugute.
Nadellas Kommentare sind in diesem Fall wichtig, da Berichten zufolge die Bilder von einem Telegram-Kanal stammen, der dafür bekannt ist, KI-generierte Pornografie zu verbreiten. Laut einem Bericht von 404 Media sind diese sexuell eindeutig KI-generierte Bilder von Taylor Swift wurden mit einem Tool erstellt: dem kostenlosen Text-zu-Bild-KI-Generator von Microsoft.
Obwohl KI-Tools sich weigern, solche Bilder zu erstellen, haben mehrere Studien und Untersuchungen in der Vergangenheit gezeigt, dass diese KI-Tools dazu verleitet werden können, solche Bilder zu erstellen, wenn die Person, die sie verwendet, relativ optimierte Eingabeaufforderungen eingibt.
Unterdessen äußerten Fans von Taylor Swift und Politiker, darunter auch das Weiße Haus, ihre Empörung über die KI-generierten gefälschten Pornobilder des Popstars. Einem Bericht zufolge wurde ein Bild des US-Megastars 47 Millionen Mal auf X gesehen.