Le parquet propose que les soi-disant deepfakes soient criminalisés. Il s’agit de vidéos manipulées dans lesquelles le visage d’une personne réelle est usurpé, dans le but de désinformer ou de présenter une scène irréelle comme véridique. Pour cela, on utilise Intelligence artificielle (IA).
Dans son dernier rapport annuel, rendu public ce jeudi, le ministère public propose de « renforcer la législation » et de criminaliser ces pratiques.
En effet, il met en garde contre « l’augmentation progressive des délits commis par des mineurs utilisant les réseaux sociaux et de ceux dont les victimes sont les mineurs eux-mêmes ».
A titre d’exemple, il cite le cas du deepfake qui a secoué la ville d’Almendralejo à Badajoz en 2023, que le parquet qualifie d’« événement douloureux ».
A l’aide d’une application informatique, plusieurs mineures auraient utilisé les vrais visages de filles de leur âge – des photographies obtenues à partir de leurs profils sur les réseaux sociaux – et auraient créé de fausses images, « où d’autres corps féminins nus se superposaient à eux, dans des poses mettant l’accent sur l’image ». organes sexuels. » , semblant correspondre de manière réaliste aux mineurs eux-mêmes ».
« Par la suite, les photographies altérées auraient été partagées, provoquant humiliation et anxiété chez les personnes concernées, âgées de onze à quinze ans », résume le Rapport. Tous étaient des camarades de classe des auteurs. de manipulation photographique.
C’est pourquoi le parquet appelle à « accorder une attention particulière au développement de l’intelligence artificielle, qui est déjà utilisée à des fins criminelles ».
En plus de générer de fausses vidéos sexuelles – et même de créer du contenu pédopornographique – et de tenter de harceler et de harceler leurs victimes, les deepfakes sont également utilisés pour diffuser de la désinformation. Un autre de ses objectifs est d’éclairer des clips qui ils modifient les discours des politiques, dans lequel ils prononcent – du moins c’est ce qu’apparaissent les vidéos – des mots qu’ils n’ont pas prononcés.
Justement, comme l’a publié EL ESPAÑOL, le parti de Yolanda DíazSumar, a exhorté le gouvernement à promouvoir une réforme législative qui pénaliserait vidéos manipulées de politiciens qui se présentent aux élections.
Dans son rapport, le parquet prévient que les applications utilisées pour créer ces contrefaçons « sont très facilement accessibles et téléchargeables sur Internet ». « Et l’un d’eux a pour slogan publicitaire Naked a Girl. »
« Cette situation et l’absence totale de contrôle sont vraiment surprenantes », déplore le ministère public. « Et le cas d’Almendralejo n’est pas le seul, même s’il est nouveau, puisque plusieurs dossiers ont été ouverts dans lesquels le comportement, réalisé via Internet, a eu pour victimes d’autres mineurs. »
Selon le parquet, l’événement survenu dans la ville de Badajoz « a révélé la pointe de l’iceberg d’un phénomène en augmentation ; celui d’une nouvelle génération d’adolescents exposés et non protégés face à de nouveaux outils technologiques plus dangereux que jamais, avec votre vie privée à un clic de devenir viral et une préoccupation omniprésente : la popularité.
« Il est certain que cette affaire met en évidence le manque de maturité et de conscience de certains groupes de jeunes, qui n’ont pas pensé, avant de créer ces images, au préjudice qu’elles causeraient aux filles », conclut-il.
Le procureur général de l’État, Álvaro García Ortiz, a évoqué ce problème lors du discours par lequel a commencé la cérémonie d’ouverture de l’année judiciaire.
« Il ne fait aucun doute que la technologie et les réseaux sociaux font partie de nos vies et – de manière plus intense – de nos jeunes, qui ont transformé le habitat virtuel dans leur moyen naturel de communication et de socialisation », a déclaré García Ortiz.
« Mais, en même temps, ces outils sont aptes à transformer les mineurs en victimes faciles de délits ou de comportements irréguliers, ainsi qu’en délinquants potentiels à la merci d’imitations inappropriées, du besoin de visibilité ou d’expériences comportementales prématurées », prévient-il.