« ChatGPT est déjà capable de faciliter un nombre important d’activités criminellesallant d’aider les criminels à rester anonymes à des crimes spécifiques, y compris le terrorisme et l’exploitation sexuelle des enfants. Bien que certains de ses résultats soient encore assez basiques, les prochaines itérations de ce modèle et d’autres ne feront qu’améliorer ce qui est possible. »
C’est le scénario dystopique avec lequel le Office européen de police (Europol) a lancé le voix d’alarme sur les risques posés par les utilisations criminelles modèles de langage d’intelligence artificielle. La fraude et le phishing ou la propagation de la désinformation à grande échelle sont particulièrement préoccupants.
Dans un rapport publié lundiEuropol demande aux forces de sécurité des États membres de se préparer à identifier et combattre ces nouvelles formes de cybercriminalité. « À mesure que la technologie progresse et que de nouveaux modèles deviennent disponibles, il deviendra de plus en plus important pour les forces de l’ordre de garder une longueur d’avance sur cette évolution afin d’anticiper et de prévenir les abus », indique le texte.
[Así puedes conectar WhatsApp con ChatGPT para charlar con la IA de la que todo el mundo habla]
La capacité de ChatGPT à écrire un texte très réaliste basé sur l’entrée de l’utilisateur « en fait un outil extrêmement utile à des fins de phishing (ou usurpation d’identité) » à grande échelle, indique Europol.
Alors qu’auparavant, de nombreuses escroqueries par hameçonnage de base étaient plus faciles à repérer grâce à des fautes d’orthographe et de grammaire évidentes, « il est maintenant possible usurper l’identité d’une organisation ou d’un individu de manière très réaliste même avec seulement une connaissance de base de l’anglais.
En effet, le contexte des emails de phishing peut facilement adaptable en fonction des besoins de l’auteur de la menaceallant des opportunités d’investissement frauduleuses à l’usurpation de l’identité de l’e-mail ou du PDG de l’entreprise, le tout pour obtenir des informations critiques ou soutirer de l’argent.
« Par conséquent, ChatGPT peut offrir aux criminels de nouvelles opportunités, notamment pour les crimes liés à la manipulation sociale, grâce à sa capacité à répondre aux messages en contexte et à adopter un style d’écriture spécifique », poursuit le rapport. Divers types de fraude sur Internet peuvent être plus crédibles utiliser ChatGPT pour générer de fausses interactions sur les réseaux sociauxpar exemple, pour annoncer une offre d’investissement frauduleuse.
Terrorisme et désinformation
La capacité des modèles de langage d’intelligence artificielle à détecter et à reproduire des modèles de langage « facilite non seulement le phishing et la fraude sur Internet, mais peut également être utilisée pour usurper l’identité de la façon de parler de personnes ou de groupes spécifiques« . « Cette capacité peut être abusée à grande échelle pour tromper les victimes potentielles afin qu’elles placent leur confiance entre les mains de criminels », prévient Europol.
ChatGPT se prête également « à d’éventuels cas d’abus dans le domaine du terrorisme, de la propagande et de la désinformation ». Plus précisément, il peut être utilisé pour recueillir plus d’informations qui facilitent les activités terroristescomme le financement du terrorisme ou le partage anonyme de fichiers.
Ce modèle de langage d’intelligence artificielle constitue un outil idéal à des fins de propagande et de désinformationcar il permet aux utilisateurs de générer et de diffuser des messages qui reflètent un récit spécifique avec relativement peu d’effort.
« Par exemple, ChatGPT peut être utilisé pour générer de la propagande sur Internet au nom d’autres acteurs afin de promouvoir ou de défendre certains points de vue qui ont été discrédités en tant que désinformation ou fake news », souligne l’étude.
Enfin, en plus de générer un langage de type humain, ChatGPT est capable de produire du code dans plusieurs langages de programmation différents. « Pour un criminel potentiel avec peu de connaissances techniques, c’est une ressource inestimable pour produire du code malveillant« , prévient Europol.
Suivez les sujets qui vous intéressent