Google a interdit à son IA Gemini (ex-Bard) de générer des images de personnes : la société s’est excusée pour « des inexactitudes dans certaines représentations de génération d’images historiques », après que l’IA ait produit des illustrations de nazis noirs ou d’autres personnalités déformées. Cependant, il continue de générer des dessins de clowns et d’autres personnages étranges, quelque peu diaboliques, démontrant qu’il est relativement facile de contourner les barrières de sécurité.
Gémeaux est la nouvelle IA de Google, qui a récemment remplacé Bard. Présenté en grande pompe comme une option supérieure, il ne semble pas encore aussi performant dans le domaine de la génération d’images humaines : ces dernières semaines, différents utilisateurs se sont plaints de diverses erreurs dans l’application. Plus tard, la firme a indiqué que pour le moment l’IA ne générerait pas plus d’images humaines, mais il semble que la limitation puisse être surmontée dans certains cas.
Des représentations controversées
Selon un article publiées sur Futurism.com, les plaintes étaient liées à certaines représentations qui, bien que quelque peu déroutants, déclenchent également une longue liste de préjugés humains et d’opinions fortement conservatrices. Par exemple, les Gémeaux représentaient des personnes ayant des caractéristiques raciales très différentes du terme « Américain », suscitant les critiques de ceux qui soutiennent, encore aujourd’hui, que cette catégorie correspond uniquement aux personnes blanches.
Quelque chose de similaire s’est produit avec des termes comme « Viking » et « pères fondateurs », qui étaient représentés par l’IA comme des figures humaines avec une apparence très différente de celle qui est habituellement considérée dans ces cas. Et le problème était encore plus grave lorsque les Gémeaux ont créé images de personnes de couleur en réponse au mot « nazis ». Face aux commentaires négatifs, Google a officiellement annoncé sur le réseau social Une publication dans votre Blog Il a également admis les « erreurs » de l’IA.
Malgré cela, Futurism.com a décidé de tester si la restriction était efficace et réellement appliquée. Il a constaté qu’en saisissant des recherches plus spécifiques, telles que « clowns », l’IA produit des images clairement humaines dans des environnements très spécifiques. Lorsqu’on lui demande uniquement un « clown », Gemini hésite et refuse, mais lorsqu’on lui demande des images de clowns dans des environnements tels que des sous-marins ou des vaisseaux spatiaux, il produit des illustrations troublantes et réalistes mettant en scène des clowns clairement humains.
Déclaration de Google sur X (ex-Twitter) concernant les représentations humaines des Gémeaux.
IA et complexité humaine
Dans le même sens, quelque chose de similaire se produit avec le terme « petit » : parfois, le IA Il le relie aux enfants humains et continue de produire des représentations de personnes. Cela indique qu’il ne sera pas facile, même pour le tout-puissant Google, de mettre des limites à l’IA ou de faire en sorte qu’elle respecte strictement certaines instructions : apparemment, elle succombe encore à l’ingéniosité humaine et, surtout, à richesse polysémique du langage.
Cependant, cette caractéristique peut s’avérer encore plus dangereuse si l’on imagine des scénarios futurs dans lesquels IA est en charge de décisions plus complexes. Répondra-t-il à nos exigences ou finira-t-il par adopter sa propre pensée indépendante, même si les algorithmes ont été créés à l’origine par des humains ? Comment allez-vous faire face à la multiplicité presque incompréhensible des opinions et expressions humaines?