Vous venez de regarder une comédie romantique sur Netflix ? Eh bien, il y a maintenant des « meilleurs choix » comme celui-ci dans votre file d’attente, grâce au système de correspondance du service de streaming.
Chaque fois que vous interagissez avec Amazon, Facebook, Instagram, Netflix et d’autres sites en ligne, des algorithmes sont occupés dans les coulisses à relater vos activités et à faire la queue pour des recommandations adaptées à ce qu’ils savent de vous. Le travail invisible des algorithmes et des systèmes de recommandation épargne aux gens un déluge d’informations et garantit qu’ils reçoivent des réponses pertinentes aux recherches.
Mais Sachin Banker affirme qu’une nouvelle étude montre que de subtils préjugés sexistes façonnent les informations fournies aux consommateurs. L’étude, co-écrite par Shelly Rathee, Arul Mishra et Himanshu Mishra, a été publiée dans le Journal de psychologie du consommateur.
« Tout ce que vous consommez en ligne est filtré par une sorte de système de recommandation », a déclaré Banker, professeur adjoint de marketing à la David Eccles School of Business, « et ce qui nous intéresse, c’est de comprendre s’il existe des biais subtils dans le types d’informations qui sont présentées à différentes personnes et comment cela affecte le comportement. »
Banker, qui étudie la façon dont les gens interagissent avec la technologie, a déclaré que les préjugés sexistes sont relativement faciles à étudier car Facebook fournit des informations sur cette caractéristique sociale. Et il n’est pas forcément surprenant que les algorithmes, qui font des associations de mots à partir de tous les textes sur Internet, captent des biais puisqu’ils existent dans le langage humain. Les grandes questions sont de savoir dans quelle mesure cela se produit et quelles en sont les conséquences.
Dans leur étude en plusieurs étapes, les chercheurs ont d’abord démontré que les préjugés sexistes intégrés au langage sont incorporés dans les algorithmes, associant les femmes à des attributs psychographiques négatifs tels que l’impulsivité, l’irresponsabilité financière et l’irrationalité.
L’équipe a ensuite peaufiné un seul mot dans une annonce – « responsable » contre « irresponsable » – pour voir qui l’a ensuite reçu ; ils ont constaté que les publicités avec des attributs psychographiques négatifs étaient plus susceptibles d’être diffusées aux femmes, même s’il n’y avait aucune base pour une telle différenciation.
Il s’agit d’une boucle qui s’auto-entretient, ont découvert les chercheurs, car les consommateurs peu avertis renforcent le biais sexiste algorithmique en cliquant souvent sur les publicités et en acceptant les recommandations qu’ils reçoivent.
« Il y a des conséquences réelles de ce biais sur le marché », a déclaré Banker. « Nous avons montré que les gens sont divisés en différents types de bulles de consommation et que cela influence vos pensées et vos comportements et renforce les préjugés historiques. »
Pour les entreprises de technologie en ligne, l’étude indique un plus grand besoin de travail proactif pour minimiser les préjugés sexistes dans les algorithmes utilisés pour diffuser des publicités et des recommandations aux consommateurs, a déclaré Banker. Les personnes faisant la publicité de produits peuvent souhaiter tester une annonce avant son lancement afin de détecter tout biais subtil susceptible d’affecter la diffusion. Et les consommateurs doivent être conscients des préjugés en jeu lorsqu’ils parcourent leurs flux et visitent des sites en ligne et s’engagent dans un scepticisme sain à l’égard des publicités et des recommandations.
La plupart des gens, a-t-il dit, ne comprennent pas totalement comment ces choses fonctionnent parce que les géants en ligne ne divulguent pas grand-chose sur leurs algorithmes, bien qu’Amazon semble fournir plus d’informations aux consommateurs sur les recommandations qu’ils reçoivent.
Et bien que cette étude se concentre sur les préjugés sexistes, Banker a déclaré que des préjugés existent probablement pour d’autres caractéristiques sociales, telles que l’âge, l’orientation sexuelle, l’appartenance religieuse, etc.
Plus d’information:
Shelly Rathee et al, Les algorithmes propagent les préjugés sexistes sur le marché – avec la coopération des consommateurs, Journal de psychologie du consommateur (2023). DOI : 10.1002/jcpy.1351