L’intelligence artificielle nous oblige à être vigilants. Malgré le progrès qu’elle représente, sa mauvaise utilisation peut engendrer bien des souffrances. La députée progressiste américaine le dit à la première personne Alexandria Ocasio-Cortez, victime d’une image pornographique créée grâce à l’IA publié sur les réseaux sociaux dans lesquels son identité a été usurpée ; ce qu’on appelle du porno deepfake. Dans son cas, à l’humiliation d’être exposée à une attitude sexuelle totalement explicite en ligne, s’ajoutent le souvenir d’une agression subie dans le passé et le retour du traumatisme.
L’homme politique américain, d’origine portoricaine, a décrit son horreur de découvrir que cette image le sien aurait été diffusé sur X (anciennement Twitter) dans une interview franche accordée au magazine Rolling Stone. Il a découvert ce qui se passait lors d’un voyage en voiture en février dernier, alors qu’il discutait avec d’autres personnes. Il était choqué.
« C’est choquant de voir des images de soi que quelqu’un pourrait croire réelles. En tant que survivant d’une agression sexuelle physique, cela ajoute un niveau de déréglementation. Le traumatisme refait surface, alors que je suis… en pleine réunion », s’indigne-t-elle auprès des médias précités.
Une fois que vous avez été victime de cette manipulation par l’IA et que vous vous êtes vu exposé aux yeux de millions d’étrangers, ce n’est pas quelque chose qui vous sort de la tête même si l’image est fausse. Voici comment Alexandrie l’explique : « Une fois que vous l’avez vu, vous l’avez vu. C’est parallèle au même intention exacte d’un viol physique et l’agression sexuelle, est liée au pouvoir, à la domination et à l’humiliation. « Les deepfakes sont absolument un moyen de numériser les humiliations violentes contre d’autres personnes. »
La députée estime qu’il est important de lui accorder l’importance qu’il a : « Il a des effets réels, non seulement sur les personnes qui en sont victimes, mais aussi sur ceux qui le voient et le consomment. » En fait, Ocasio-Cortez, 34 ans, soutient la législation du Congrès visant à permettre aux victimes de pornographie IA non consensuelle de poursuivre plus facilement les éditeurs, les distributeurs et les consommateurs de deepfakes numériques classés X.
De plus, il semble qu’il y ait des motivations raciales et politiques dans ce deepfake porno dont il a été victime. Elle était la plus jeune femme jamais élue à un siège au Congrès des États-Unis, à 29 ans. Femme, Latina et racisée… »Ils veulent nous donner une leçon pour être là, pour exister : ce n’est pas ta place et pour être ici, nous allons te punir », dit-il.