Une majorité à la Chambre des représentants veut interdire les deepfakes dans certains cas. Les experts doutent qu’une nouvelle loi soit nécessaire pour cela. De plus, on ne sait pas qui devrait appliquer l’interdiction des fausses photos et vidéos et comment cela devrait être fait.
Met deepfaketechnologie kun je foto’s en video’s maken die echt lijken, maar niet echt zijn. Zo kun je bijvoorbeeld een politicus iets laten zeggen wat in werkelijkheid nooit is gebeurd. De beelden worden samengesteld met behulp van kunstmatige intelligentie.
Deepfakes kunnen worden gebruikt voor kwaadaardige doeleinden. Onlangs werd er nog een neppornofilm van Welmoed Sijtsma naar buiten gebracht. Een persoon had het hoofd van de tv-presentatrice op het lichaam van een pornoactrice geplakt.
Een ruime meerderheid van de Tweede Kamer wil deepfakes die worden gebruikt voor kwaadaardige doeleinden verbieden. Of daar daadwerkelijk een nieuwe wet voor komt, is nog niet zeker. Experts twijfelen of zo’n nieuwe wet überhaupt wel nodig is.
La diffusion de deepfake est déjà punissable
L’avocat des TIC, Arnoud Engelfriet, dit que non. « La distribution de deepfakes est déjà interdite par certaines lois », a-t-il déclaré à NU.nl. Par exemple, cela peut relever de la diffamation et de la distribution de pornographie de vengeance, qui sont déjà punissables.
La ministre Dilan Yesilgöz-Zegerius (Justice et Sécurité) a également déclaré dans un Lettre au parlement que la distribution de deepfakes pornographiques est déjà interdite. De plus, le tribunal de La Haye a prononcé l’année dernière une condamnation pour avoir fait un deepfake sexuel.
Theo Gevers, professeur de vision par ordinateur à l’Université d’Amsterdam, pense qu’une interdiction spécifique des deepfakes pornographiques est une bonne idée. « Créer et distribuer des images sexuelles de quelqu’un d’autre sans son consentement, comme la pornographie de vengeance, est déjà une infraction pénale. Il devrait devenir plus clair dans la loi que les deepfakes pornographiques sont également couverts. »
Il appelle une interdiction totale des deepfakes « un non-sens ». « Les deepfakes peuvent aussi être positifs. Par exemple, ils sont utilisés pour le traitement des traumatismes. Les femmes qui ont été maltraitées peuvent ensuite parler à l’agresseur. Des applications telles que Lensa AI, actuellement populaire, sont également innocentes. »
La nouvelle loi est presque impossible à appliquer
Selon Engelfriet et Gevers, un autre problème avec une interdiction est son application. Le Centre de Recherche et de Documentation Scientifique (WODC) a publié en ce début d’année un rapport déclarant qu’une telle loi peut difficilement être appliquée. Il y a trop de fausses photos et vidéos en circulation pour toutes les vérifier.
Les options d’exécution sont actuellement à l’étude. Pour alléger la pression, les chercheurs proposent d’interdire la production, l’offre, l’utilisation et la possession de technologie deepfake pour le marché grand public.
On ne sait toujours pas qui sera responsable de l’application. Selon le ministre, les plateformes de médias sociaux doivent empêcher les fausses images et les victimes peuvent déposer une plainte auprès de l’autorité néerlandaise de protection des données.
La police peut aussi jouer un rôle. « Au lieu de faire une nouvelle loi, il vaut mieux examiner ce dont la police a besoin pour faire appliquer une telle interdiction », déclare Engelfriet.