L’IA de DeepMind développe des politiques populaires pour la distribution des fonds publics

Les chercheurs de DeepMind ont formé un système d’IA pour trouver une politique populaire d’allocation de fonds publics dans un jeu en ligne – mais ils mettent également en garde contre le « gouvernement de l’IA »

À travers Jeremy Hsu

Un système d’IA «démocratique» a appris à développer la politique la plus populaire de redistribution des fonds publics entre les joueurs de jeux en ligne.

« Beaucoup de problèmes auxquels les gens sont confrontés ne sont pas seulement de nature technologique, mais nécessitent une coordination de notre part dans la société et dans nos économies pour le plus grand bien », déclare Raphael Koster de la société britannique d’IA DeepMind. « Pour que l’IA puisse aider, elle doit apprendre directement les valeurs humaines. »

L’équipe DeepMind a formé son intelligence artificielle pour apprendre de plus de 4000 simulations humaines et informatiques dans un jeu d’économie en ligne à quatre joueurs. Dans le jeu, les joueurs commencent avec différentes sommes d’argent et doivent décider du montant à contribuer pour augmenter un pool de fonds publics, et éventuellement recevoir une part du pot en retour. Les joueurs ont également voté sur leurs politiques préférées pour la distribution des fonds publics.

Les politiques développées par l’IA après cette formation ont généralement tenté de réduire les disparités de richesse entre les joueurs en redistribuant les fonds publics en fonction de la contribution de chaque joueur à son pot de départ. Cela a également découragé les free riders en ne donnant presque rien aux joueurs à moins qu’ils n’aient contribué environ la moitié de leur capital de départ.

Cette politique conçue par l’IA a remporté plus de votes des acteurs humains qu’une approche « égalitaire » consistant à redistribuer les fonds de manière égale quel que soit le montant de la contribution de chaque personne, ou qu’une approche « libertaire » où les fonds sont distribués en fonction de la part de contribution de chaque personne. marmite publique.

« Une chose que nous avons trouvée surprenante, c’est que l’IA a appris une politique qui reflétait un mélange de points de vue de tous les horizons politiques », déclare Christopher Summerfield de DeepMind.

Lorsque l’inégalité entre les joueurs était la plus grande au départ, une politique « libérale égalitaire » – qui redistribuait l’argent en fonction de la part des droits d’entrée que chaque joueur contribuait, mais ne décourageait pas les resquilleurs – s’est avérée aussi populaire que la proposition de l’IA. en obtenant plus de 50 pour cent des droits de vote dans un concours en tête-à-tête.

Les chercheurs de DeepMind avertissent que leur travail n’est pas une recette pour un « gouvernement de l’IA ». Ils disent qu’ils n’ont pas l’intention de développer des outils d’élaboration de politiques basés sur l’IA.

C’est peut-être le cas, car la proposition d’IA n’est pas nécessairement unique par rapport à ce que certaines personnes ont déjà proposé, explique Annette Zimmermann de l’Université de York, au Royaume-Uni. Zimmermann a également mis en garde contre le fait de se concentrer sur une notion étroite de la démocratie en tant que système de « satisfaction des préférences » pour trouver les politiques les plus populaires.

« La démocratie ne signifie pas seulement gagner, mettre en œuvre les politiques que vous préférez, mais créer des processus dans lesquels les citoyens peuvent se rencontrer et se consulter sur un pied d’égalité », déclare Zimmermann.

Les chercheurs de DeepMind s’inquiètent d’une «tyrannie de la majorité» activée par l’IA qui néglige les besoins des personnes appartenant à des groupes minoritaires. Mais ce n’est pas une grande préoccupation parmi les politologues, dit Mathias Risse de l’Université de Harvard. Il dit que les démocraties modernes sont confrontées au plus gros problème du « grand nombre » qui est privé de ses droits par la petite minorité de l’élite des affaires et qui est complètement exclu du processus politique.

Pourtant, Risse dit que la recherche DeepMind est « intrigante » dans la façon dont elle a fourni une version de la politique égalitaire libérale. « Comme je suis de toute façon dans le camp libéral-égalitaire, je trouve que c’est un résultat très satisfaisant », dit-il.

Référence magazine : nature du comportement humainDOI : 10.1038/s41562-022-01383-x