Parfois, elle se présentait comme Natasha. D’autres, comme Anna. Elle a également utilisé le nom de Grace. C’était toujours le même visage, celui d’une jeune femme russe qui parlait parfaitement le mandarin, mais avec des identités différentes selon le réseau social chinois qu’elle utilisait.
Il est apparu dans de courtes vidéos de moins d’une minute, louant la grandeur de la Chine, son histoire, sa culture et son peuple. Elle disait souvent qu’elle voulait rencontrer des hommes chinois, qui sont beaucoup plus beaux et travailleurs que les hommes russes, afin de pouvoir épouser l’un d’eux.
Imaginez à quel point Olga Loiek a dû avoir peur lorsqu’elle a découvert plus d’une douzaine de vidéos d’elle disant ces choses qui n’étaient jamais sorties de sa bouche sur différentes plateformes chinoises. Ils avaient usurpé son identité et sa voix avec un programme d’intelligence artificielle (IA), créant différents avatars avec son visage. En fait, elle n’est même pas russe et ne parle pas un mot de mandarin. Olga est une Ukrainienne de 20 ans qui étudie à l’Université de Pennsylvanie, aux États-Unis.
Olga, qui étudie les sciences cognitives et comportementales, a lancé il y a cinq mois une chaîne YouTube où elle publie des vidéos d’auto-assistance sur la santé mentale. Elle compte plus de 17 000 abonnés. Peu avant le Nouvel An chinois, début février dernier, ses followers l’ont alertée avoir vu de fausses vidéos d’elle sur les réseaux sociaux chinois comme Douyin – semblable à TikTok – et Bilibili.
L’Ukrainienne, consciente à ce moment-là que quelqu’un utilisait l’IA pour manipuler le contenu qu’elle mettait en ligne sur sa chaîne YouTube, a commencé à traduire certaines vidéos dans les salles en parlant en mandarin. « Si vous épousez une femme russe, elle vous donnera autant de bébés étrangers que vous le souhaitez. Elle lavera également vos vêtements et cuisinera pour vous tous les jours », a expliqué l’un de ses avatars.
Dans d’autres vidéos, la fausse Olga mettait en avant les bonnes relations entre la Russie et la Chine, mais en ajoutant toujours le commentaire selon lequel les femmes russes sont impatientes d’épouser des hommes chinois. C’était le grand appât pour les utilisateurs masculins du pays asiatique qui suivaient leurs comptes faux cliquez sur les liens qui apparaissent dans le clics. Celles-ci ont conduit à des boutiques en ligne où étaient vendus des produits soi-disant fabriqués en Russie.
L’étudiant ukrainien n’est pas la seule jeune victime occidentale de ce que l’on appelle déjà en Chine « l’arnaque des faux influenceurs russes ». Depuis l’invasion russe de l’Ukraine, lorsque Pékin a adopté le discours du Kremlin dans ses canaux de propagande internes, plusieurs profils de Russes – pour la plupart des jeunes filles – au discours mandarin pro-chinois et anti-américain sont apparus, notamment sur Douyin.
Avec des sermons patriotiques et flagorneurs sur la Chine, et en utilisant les avatars numériques et la génération de voix qu’ils peuvent créer grâce au programme HeyGen – une société d’intelligence artificielle basée à Los Angeles lancée en Chine en 2020 -, ils profitent de l’attrait du nationalisme dans les réseaux nationaux pour faire des affaires et vendre leurs produits.
Faux profils
L’année dernière, le récit Douyin de Russian Nana, une jeune blonde aux yeux bleus qui prétendait vivre dans la province chinoise du Hubei, a été très populaire. Comme les avatars de l’étudiante Olga, les messages de ce profil s’adressaient en priorité aux hommes chinois. Il a également chanté des chansons célèbres du géant asiatique et vendu des produits russes, de la vodka au lait, à ses près de deux millions de followers. La plateforme a fini par suspendre le compte de Nana pour avoir utilisé de faux filtres pour créer le visage d’une personne qui n’existait pas dans la vraie vie.
Mais le cas le plus notoire est celui d’un internaute qui a créé sur Douyin le profil d’un soldat russe intégré dans les forces spéciales tchétchènes combattant en Ukraine. Il a publié des vidéos prétendument enregistrées depuis les lignes de front des combats. Il reliait également un lien ce qui a donné naissance à une boutique de commerce électronique vendant des produits russes.
Il comptait plus de 400 000 abonnés qu’il a trompés avec un faux visage conçu avec le logiciel faux profond: un système qui, alimenté par l’Intelligence Artificielle, peut reproduire ou cloner, à partir d’images et de vidéos réelles, le visage et la voix d’une personne.
Ce système est utilisé pour de nombreuses escroqueries, suscitant l’inquiétude des autorités. Lundi, la police chinoise a mis en garde contre la menace croissante de l’IA. faux profond après que le dernier cas à Hong Kong ait été connu : une entreprise a perdu 200 millions de dollars de Hong Kong (environ 24 millions d’euros) après un employé a été trompé lors d’une vidéoconférence au cours de laquelle des escrocsParvenant à superposer des visages de personnes réelles dans des séquences vidéo, ils se sont présentés avec les visages de plusieurs dirigeants d’entreprises.
L’employé, qui ne s’est jamais montré méfiant, a effectué plusieurs virements vers des comptes bancaires suivant les instructions de ses faux patrons. Les escrocs, en plus de tracer l’image, ont également utilisé l’IA pour synchroniser la vidéo avec des dialogues édités basés sur les voix préenregistrées des personnes dont l’identité avait été usurpée.