L’escroquerie à l’intelligence artificielle du « tiktoker » chinois qui a utilisé le visage d’un soldat russe sur le front ukrainien

Baoer Kechatie a utilisé le visage profond et a publié des vidéos qui auraient été enregistrées depuis la ligne de front du combat

Il s’est présenté comme Baoer Kechatie, soldat russe intégré dans les forces spéciales tchétchènes combattant en Ukraine. « Maintenant, nous nous battons jusqu’à la mort contre l’armée ukrainienne », a-t-il déclaré en mandarin, arme à la main, dans l’un des clips qu’il a mis en ligne sur son compte Douyin, la version chinoise de TikTok. Il avait 400 000 abonnés et était pendu depuis neuf mois. des vidéos soi-disant enregistrées depuis la ligne de front des combats.

Dans l’une d’elles, en haut d’une colline et avec un paysage industriel en arrière-plan, il raconte qu’il se trouve devant une centrale nucléaire dont l’armée russe vient de s’emparer. Dans une autre vidéo, cachée dans des buissons, Kechatie dit qu’il s’est battu contre les Marines américains. Il s’est même enregistré devant une limousine blanche assurant qu’il s’agissait d’un des véhicules officiels du président Volodimir Zelenski, dont sa brigade s’était emparée.

Malgré l’improbabilité de son témoignage, facilement démontable, son récit n’a cessé d’attirer de plus en plus de followers qui ont applaudi son « courage ». En guise de touche finale, au cours des deux derniers mois, avec l’augmentation de sa popularité sur le réseau social, le tic-tac soldat lié dans chaque vidéo un lien qui menait à une boutique e-commerce dans lequel il vend des produits russes, de la vodka au lait.

Au final, tout ce qu’il disait était si grossier que ses propres partisans ont fini par découvrir l’arnaque : Baoer Kechatie était le pseudonyme utilisé par unun Chinois de la province centrale du Henan qui s’était fait un nouveau visage -celui d’un homme chauve à la barbe touffue- avec un logiciel deepfake : un système qui, piloté par l’intelligence artificielle, peut reproduire ou cloner, à partir d’images et de vidéos réelles, le visage et la voix d’une personne.

Les utilisateurs de Douyin, en tirant l’adresse IP du compte, ont découvert qu’il était situé dans le Henan et non en Ukraine. Les scénarios dans lesquels il inscrit ses productions ont été enregistrés en Chine. C’était une arnaque pour vendre des produits importés de Russie -avait vendu au moins 210 articles- se faisant passer pour un soldat ayant combattu aux côtés des taupes du Kremlin, sympathisants du courant le plus nationaliste qui circule sur les réseaux sociaux chinois et dévore toute la propagande moscovite. Les armes que Kechatie a montrées dans ses vidéos étaient des armes jouets.

Sixth Tone, l’un des journaux chinois qui a rebondi l’histoire, assure que Douyin a suspendu le compte du faux soldat au cours du week-end, qui avait déjà changé de nom dans l’application et a commencé à supprimer les vidéos en raison de l’examen minutieux des adeptes qui révélé leur véritable emplacement.

Ce n’est que la dernière de nombreuses arnaques en utilisant le deepfake ils sautent sur le géant asiatique. Plusieurs plaintes ont été rapportées de victimes ayant reçu un appel vidéo d’une personne qui avait cloné le visage et la voix d’un proche pour lui demander de l’argent. Dans l’industrie du commerce électronique, il y a eu une controverse avec les diffusions en direct car certains utilisateurs, afin de vendre plus de produits, utilisent ce type de technologie pour cloner les visages de streamers célèbres, en particulier Douyin.

Il y a un mois, un créateur de contenu sur une autre application a cloné la voix d’une célèbre chanteuse pop singapourienne, Stefanie Sun, et a mis en ligne des vidéos, se faisant passer pour Sun, reprenant des chansons à succès d’autres artistes. Les vidéos ont accumulé des millions de vues, mais beaucoup se sont demandé s’ils enfreignaient ou non les droits d’auteur des artistes.

Plus tôt cette année, le principal chien de garde d’Internet en Chine a publié un nouveau règlement pour contrôler ce qu’il a appelé Internet « technologies de synthèse profonde »une référence à l’IA utilisée pour générer du texte, des images et des vidéos.

Le règlement oblige désormais les plateformes liées à mettre en place un système de vérification du nom réel des utilisateurs avant qu’ils ne puissent accéder au service. Pendant ce temps, les fournisseurs de contenu doivent obtenir un consentement séparé des utilisateurs si leur service inclut des fonctionnalités qui modifient leurs informations biométriques, telles que leur visage et leur voix, et il leur est interdit de diffuser de fausses informations.

Cette loi est apparue peu de temps après son décollage au début de l’année. ChatGPT, le chatbot basé sur l’IA générative créée par la firme américaine OpenAI. Bien qu’elle soit censurée en Chine, comme de nombreuses autres applications en Occident, elle est facile à télécharger à l’aide d’un réseau privé virtuel, un logiciel assez courant qui peut aider à contourner les restrictions du Grand Pare-feu.