Sumar a l’intention d’exhorter le gouvernement à que le Code Pénal punit la diffusion de deepfakes de candidats aux élections. Que sont les deepfakes ? Il s’agit de vidéos modifiées, utilisant l’intelligence artificielle (IA), qui manipulent la voix de certaines personnes célèbres pour donner surtout l’impression qu’elles disent quelque chose qu’elles n’ont pas vraiment dit.
À travers un PNL (proposition de non-loi) déjà enregistré au Congrès, le parti de Yolanda Díaz cherche à « promouvoir » une modification de la loi électorale « qui inclut un nouveau délit de diffusion malveillante d’images et de voix générées par l’intelligence artificielle qui punit la diffusion, de manière malveillante ou sans autorisation préalable des candidats, d’images ou de sons altérés ou recréés au moyen de systèmes automatisés, de logiciels, d’algorithmes ou de mécanismes d’intelligence artificielle de ces derniers depuis le déclenchement du processus électoral.
En fait, Yolanda Díaz elle-même a été victime de plusieurs deepfakes parodiques, bien que cette technique de manipulation soit plus répandue dans les pays étrangers, comme la Corée du Sud ou les États-Unis, qu’en Espagne. L’Union européenne envisage de son côté de réguler ces fichiers créés par l’IA.
Avec son PNL, signé par les députés Tesh Sidi et Txema Guijarro, Sumar souhaite également une majorité parlementaire pour inciter le gouvernement à « promouvoir éducation aux médias et au numérique afin que les citoyens puissent identifier et distinguer les fausses informations des vraies informations.
Aussi, que l’Exécutif « promeuve des protocoles d’action rapides et spécifiques » pouvant être appliqués pendant les campagnes électorales pour lutter contre la désinformation générée par l’intelligence artificielle.
Tout cela, en collaboration avec les gouvernements d’autres pays, le principal entreprises technologiquesles organisations de la société civile et les partis politiques, comme le seul moyen de « lutter efficacement contre les deepfakes ».
Selon le document, en 2024, les citoyens de plus de 70 pays se rendront aux urnes. « Et il est probable que nous assisterons à la plus grande utilisation frauduleuse de l’IA à ce jour », prédit le NLP.
« Les campagnes de désinformation basées sur l’IA mettent déjà en cause l’intégrité de la démocratie. (…) Nous assistons à un processus très préjudiciable pour nos institutions, précisément à un moment où la confiance en elles est à un niveau historiquement bas », prévient la proposition non juridique. .
Les deepfakes ne sont pas seulement utilisés à des fins de manipulation politique, mais aussi, de plus en plus, pour créer fausses vidéos pornographiques avec les visages de personnages célèbres. Surtout les femmes. Par exemple, la députée américaine Alexanda Ocasio-Cortez a été victime de cette pratique.