Les stéréotypes raciaux ont été bouleversés lors d’une étude récente sur l’intelligence artificielle. De nouvelles recherches de l’Université de Géorgie ont révélé que les robots noirs étaient considérés comme plus compétents et plus humains que les robots blancs ou asiatiques utilisés dans la même étude. Cela contraste avec les recherches antérieures sur les interactions interhumaines.
« Nous avons constaté que dans l’espace numérique, parce que l’IA noire est si inhabituelle, les stéréotypes s’amplifiaient dans la direction opposée », a déclaré la chercheuse Nicole Davis, doctorante en troisième année au Terry College of Business de l’UGA. « Les robots noirs n’étaient pas seulement considérés comme compétents, mais vraiment compétents – plus compétents que les robots blancs ou asiatiques. »
Comprendre comment les stéréotypes raciaux interagissent avec l’intelligence artificielle est une étape importante vers l’utilisation éthique de l’IA, a déclaré Davis. Alors que l’IA et les bots gagnent en popularité, les entreprises doivent comprendre ces nuances non seulement pour soutenir leurs résultats, mais aussi pour gérer la diminution des préjugés raciaux.
L’étude a examiné les perceptions de la compétence et de l’humanité. Ce sont des facteurs importants dans l’espace numérique, a déclaré Davis, car ils peuvent influencer la façon dont un client se sent et vit une entreprise.
Pour évaluer les opinions préexistantes, les participants ont été interrogés sur les stéréotypes courants pour les groupes raciaux blancs, noirs et asiatiques. De nombreuses réponses correspondent aux recherches antérieures : les Noirs étaient perçus comme moins compétents que les Blancs, et les Asiatiques étaient considérés comme les plus compétents, a déclaré Davis.
Ensuite, les participants se sont vu attribuer au hasard un bot qui semblait blanc, noir ou asiatique, puis ont négocié avec le bot pour réduire le coût d’une location de vacances. Ils pouvaient mettre fin aux négociations à tout moment, et par la suite, ils étaient interrogés sur la compétence, la chaleur et l’humanité du bot.
« Indépendamment de la façon dont les participants se sont identifiés ou avec quel bot ils ont interagi, nous avons quand même constaté que les Noirs étaient généralement perçus comme moins compétents que les Blancs ou les Asiatiques », a déclaré Davis. « Mais ensuite, lorsque nous avons posé des questions sur le bot, nous avons vu les perceptions changer. Même s’ils ont dit: » Oui, j’ai l’impression que les Noirs sont moins compétents « , ils ont également dit: » Oui, j’ai l’impression que l’IA noire était plus compétente. ‘ »
La raison de cette différence, a déclaré Davis, est connue sous le nom de théorie de la violation des attentes. Cette théorie propose que si les attentes sont faibles – en raison de quelque chose comme des stéréotypes – mais que l’expérience est positive, alors les gens considèrent leur expérience comme extrêmement positive.
« Les participants pensent: » Oh, wow, non seulement il y a un bot noir dans l’espace numérique, mais ils ont en fait très bien réussi « », a déclaré Davis. « Leurs attentes sont dépassées et leurs réponses positives sont amplifiées. Et c’est pourquoi nous constatons que les bots noirs sont perçus comme plus compétents et plus humains que les bots blancs ou asiatiques. »
Ces résultats sont un indicateur que les stéréotypes appliqués dans les interactions humaines peuvent fonctionner différemment dans les espaces numériques, a déclaré Davis.
« Ceci est très important car les spécialistes du marketing conçoivent des robots anthropomorphes hautement dynamiques pour servir de porte d’entrée à leur entreprise ou à leur entreprise », a déclaré Davis. « Nous avons besoin de plus de recherches sur l’IA pour comprendre son impact sur la perception des consommateurs, ainsi que quand l’IA va aider par rapport à quand elle pourrait nuire. »
Plus d’information:
Nicole Davis et al, je ne suis qu’un être humain ? Le rôle des stéréotypes raciaux, de l’humanité et de la satisfaction dans les transactions avec des robots de vente anthropomorphes, Journal de l’Association pour la recherche sur les consommateurs (2022). DOI : 10.1086/722703