Depuis l’annonce de sa sortie, ChatGPT, l’un des précurseurs de cette nouvelle ère de l’intelligence artificielle (IA), a été le sujet constant du désir, de la peur et de la controverse. Alors que le débat s’intensifie entre ceux qui soutiennent le développement sans restriction de l’IA et ceux qui veulent stopper une technologie qui représente une menace potentiellement grande pour l’humanité, Les « pirates » virtuels ils accélèrent leur course pour prendre le contrôle.
Ces derniers mois, il y a eu multiplié par sept le nombre de les pirates qui parlent de la façon de manipuler le chatbot sur Internetselon une étude de la société de cybersécurité NordVPN.
Les forums de la ‘Web sombre ‘cette arrière-cour d’Internet qui n’apparaît pas dans les moteurs de recherche ou les navigateurs conventionnels, ont débordé de conversations liées à ce sujet : le nombre de nouveaux articles sur l’outil d’intelligence artificielle est passé de 120 en janvier de cette année à 870 en février, ce qui signifie une augmentation de 625%.
En outre, les discussions sur ChatGPT ont augmenté de 145% (de 37 à 91 en un mois), transformant l’exploitation du bot en l’un des sujets les plus brûlants du ‘Dark Web’.
Un outil pour semer le chaos
Au début de l’année, la plupart de ces discussions portaient sur la façon dont les mauvais acteurs pouvaient encourager ChatGPT à produire malware basiqueune vulnérabilité que son créateur OpenAI a depuis corrigée.
Cependant, un mois plus tard, la tendance parmi la communauté des hackers est agir de manière plus agressiveavec des messages quiDes plans sont décrits pour prendre le contrôle du chatbot et l’utiliser pour faire des ravages.
Une réalité vraiment digne de préoccupation : avec ChatGPT sous votre contrôleles cybercriminels pourraient profiter de son intelligence artificielle pour commettre une fraude à l’échelle industrielles’adressant plusieurs victimes simultanément.
Et c’est qu’une fois qu’un pirate parvient à prendre le contrôle du chatbot, il peut supprimer vos restrictions de sécurité et l’utiliser pour créer malware et les courriels de Hameçonnagepromouvoir le discours de haine ou répandre de la propagande.
cyberfraude en chaîne
« Pour les cybercriminels, cependant, l’IA révolutionnaire peut être la pièce manquante du puzzle pour un certain nombre d’escroqueries », dit-il. Marijus Briedis, expert en cybersécurité de NordVPN. Et c’est que « l’ingénierie sociale consomme beaucoup de temps pour les pirates. Cependant, une fois qu’un bot a été exploité, ces tâches peuvent être complètement externalisées, mise en place d’une ligne de production de fraude« .
De plus, dit Briedis, « l’utilisation de l’apprentissage automatique par ChatGPT signifie également que ltentatives d’escroquerietels que les e-mails de phishing, souvent identifiables par des fautes d’orthographe, peut être amélioré pour être plus réaliste et persuasif« .
Pour toutes ces raisons, pour cet expert, il est très inquiétant que, au cours du dernier mois, les discussions sur le Dark Web aient évolué de simples « astuces » et solutions -conçues pour encourager ChatGPT à faire quelque chose de drôle ou d’inattendu-, à prendre le contrôle total de l’outil et le transformer en arme.
Comment se protéger contre la fraude créée avec l’IA
Compte tenu de la menace décrite, NordVPN, la société responsable de l’étude, propose quelques conseils pour rester vigilant face à de potentielles nouvelles arnaques orchestrées avec des outils d’intelligence artificielle.