Les participants à de nouvelles recherches menées par Royal Holloway et le Warburg Institute, tous deux de l’Université de Londres, étaient susceptibles de faire confiance aux visages générés artificiellement, connus sous le nom de visages de réseau antagoniste génératif (GAN), plutôt qu’aux visages réels, ce qui les rend plus sensibles à la désinformation et crée un environnement culturel. paysage visuel vers une société plus trompeuse.
L’étude, publiée dans la revue iScience et intitulé « Sur la réalité des personnes qui n’existent pas : le traitement social des visages artificiels », laboratoire dirigé par le professeur Manos Tsakiris du département de psychologie de Royal Holloway, et étude dirigée par le Dr Raffaele Tucciarelli au Warburg Institute , School of Advanced Study, a montré aux participants une série de visages appartenant à de vraies personnes ou générés artificiellement (IA).
Les participants ont été invités à juger si les visages étaient réels ou non et, curieusement, les visages du GAN étaient plus susceptibles d’être perçus comme réels que ceux de personnes réelles.
Les résultats mettent en évidence les progrès récents de la technologie utilisée pour générer des images artificielles, avec une accélération impressionnante au cours de la dernière décennie de la technologie GAN, ce qui donne des visages incroyablement réalistes aujourd’hui.
Les visages GAN sont des images réalistes de personnes non existantes générées par ordinateur. Les personnes représentées dans ces images n’existent pas et n’ont jamais existé. Ils sont de plus en plus utilisés dans le marketing, le journalisme et les médias sociaux, mais aussi à des fins malveillantes, telles que la propagande politique et l’espionnage.
Les résultats sont importants lorsque la société considère les implications sociales : des nouvelles grand public aux médias sociaux, des photos éditées aux fausses vidéos profondes, des humains aux bots, et des faits alternatifs aux fausses nouvelles – les gens doivent juger de la fiabilité des informations qu’ils voient.
L’utilisation sans cesse croissante d’images et de vidéos factices fait passer le paysage visuel culturel d’être principalement véridique à potentiellement trompeur. La question de savoir à qui faire confiance devient particulièrement pertinente.
Pour cette raison, la même équipe de chercheurs a ensuite montré, dans une étude distincte, que les participants sont plus susceptibles de faire confiance aux informations véhiculées par des visages qu’ils avaient précédemment jugés réels, même s’ils ont été générés artificiellement.
Le professeur Manos Tsakiris, professeur de psychologie à Royal Holloway – et également directeur du Center for the Politics of Feelings à l’École d’études avancées – a dirigé l’étude, a déclaré: « Beaucoup ont fait valoir que l’une des plus grandes victimes de l’intelligence artificielle sera l’érosion de la confiance dans ce que nous voyons et entendons.
« Comme nous le montrons dans notre étude, la réalité que les gens projettent sur des visages artificiels les rend plus susceptibles d’être fiables en tant que sources d’information, mais plus tard, lorsque les gens se rendent compte qu’il existe des images d’IA, leur confiance totale dans toute information qui leur est donnée est drastiquement réduit.
« Cela pourrait amener les gens à se désengager des messages qui leur sont donnés à l’avenir car ils ne savent pas à qui ou à quoi faire confiance. Éduquer le public sur ces technologies et faire progresser leur culture numérique peut nous rendre moins crédules, mais en même temps, cela peut nous rendre , en général, moins confiants. »
Le Dr Raffaele Tucciarelli, qui a récemment terminé ses recherches à l’Institut Warburg, a ajouté : « Nos résultats montrent que les préjugés des gens à percevoir les visages artificiels comme réels peuvent alors les rendre plus crédules face aux informations véhiculées par de tels agents artificiels.
« Alors que nous vivons à une époque où plus que jamais auparavant dans l’histoire humaine, on nous demande de juger de la réalité, de la véracité et de la fiabilité de notre monde social, et à quelles informations nous décidons de faire confiance peuvent avoir des conséquences considérables. »
Pour mieux comprendre le rôle que la connaissance de l’existence d’une telle technologie peut jouer dans le comportement des gens, les chercheurs ont ensuite mené une troisième étude où la moitié des participants ont été informés de l’existence de visages GAN tandis que l’autre moitié a été maintenue dans l’obscurité.
Les résultats ont montré que les participants informés montraient des niveaux de confiance globalement inférieurs dans leur interaction virtuelle avec tous les visages qui leur étaient présentés, qu’ils soient réels ou non.
L’utilisation subversive et omniprésente de technologies capables de générer des photos et des vidéos réalistes mais fausses peut éroder la confiance dans les principales sources d’information que nous utilisons, comme les médias sociaux, avec des conséquences considérables pour nos sociétés.
Plus d’information:
Raffaele Tucciarelli et al, Sur la réalité des personnes qui n’existent pas : Le traitement social des visages artificiels, iScience (2022). DOI : 10.1016/j.isci.2022.105441