Des recherches récentes menées par l’Université de Bath montrent que la discrimination à l’égard des femmes s’aggrave si l’intelligence artificielle (IA) est utilisée par les prêteurs pour les prêts, mais que les prêteurs éthiques pourraient choisir de modifier les algorithmes de l’IA pour remédier à ce biais tout en améliorant leurs bénéfices ainsi que la réputation de leur marque.
L’étude du rôle des commissions des forces de vente sur les décisions de prêt prises chez les concessionnaires automobiles au Canada a mis en évidence que l’utilisation de l’IA augmentait considérablement les bénéfices des prêteurs et n’intensifiait pas les préjugés existants à l’encontre des groupes de clients traditionnellement marginalisés par la société, à l’exception flagrante des femmes.
« Nous avons constaté que les prêteurs pouvaient augmenter leurs profits en appliquant des techniques d’apprentissage automatique à des milliers de prêts automobiles. Cependant, ce profit s’accompagne d’un inconvénient considérable : l’IA peut rendre les contrats de prêt automobile disproportionnellement moins favorables aux femmes, ce qui aggrave l’injustice sociale dans le système », a déclaré le Dr Christopher Amaral de l’École de gestion de l’Université.
L’étude a montré que les prêteurs qui utilisent l’IA pour optimiser les commissions de vente pouvaient augmenter leurs bénéfices annuels jusqu’à 8 %, mais que cela se faisait au détriment des femmes. Cependant, les chercheurs ont identifié que le biais à l’encontre des femmes pourrait être atténué en modifiant les algorithmes d’IA à l’origine des commissions de vente et entraîner une augmentation des bénéfices allant jusqu’à 4 %.
Les chercheurs ont programmé l’algorithme d’apprentissage automatique pour maximiser les profits tout en le limitant afin de garantir que les femmes ne soient pas davantage désavantagées. Ils ont découvert que les entreprises pouvaient encore augmenter leurs profits en s’approvisionnant auprès du groupe non marginalisé, à savoir les hommes.
« Cela souligne l’impact positif que l’IA peut avoir sur le bien-être social tout en bénéficiant aux entreprises, à la fois par des améliorations immédiates de leurs résultats et par des avantages à long terme en termes de réputation grâce à un comportement équitable et socialement responsable », a déclaré le Dr Amaral, auteur de l’ouvrage. étude dans Gestion de la production et des opérationsintitulé « Optimisation de la délégation de tarification aux forces de vente externes via des commissions : une enquête empirique ».
Le Dr Amaral a déclaré que les préjugés à l’encontre des femmes dans ce secteur étaient bien documentés, des recherches récentes montrant que les vendeurs négocient des conditions de prêt moins favorables pour les femmes que pour les hommes. Certaines recherches suggèrent que ce résultat pourrait être dû au fait que les vendeurs supposent que les femmes sont moins capables d’évaluer si les conditions de prêt sont équitables en raison de leurs connaissances inférieures à celles des hommes sur certains types de produits, tels que les prêts automobiles, mais aussi en raison de la les femmes ne sont pas aussi affirmées comme les hommes.
« Pour réduire l’injustice et éviter l’intervention des régulateurs, il peut sembler prudent que les entreprises évitent complètement l’IA, mais cela sacrifie l’augmentation des profits que permettent les outils d’IA. Nous pensons qu’il existe une voie médiane : l’IA peut être utilisée de manière plus responsable pour équilibrer le compromis entre profits et justice sociale », a déclaré le Dr Amaral.
« Il ne fait aucun doute que l’IA, utilisée de manière irréfléchie, peut aggraver la discrimination à l’égard des femmes. Mais si elle est utilisée de manière responsable, l’IA n’est pas la menace que la société décrit souvent. Au lieu de limiter l’utilisation de l’IA, nous devrions encourager les entreprises à l’utiliser de manière responsable, en veillant à ce qu’elle profite à la fois à leurs objectifs commerciaux et à l’équité sociale », a déclaré le Dr Amaral.
Plus d’informations :
Christopher Amaral et al., Optimisation de la délégation de tarification aux forces de vente externes via des commissions : une enquête empirique, Gestion de la production et des opérations (2024). DOI: 10.1177/10591478241259791