L’un des soi-disant « parrains » de l’Intelligence Artificielle (IA), Geoffrey Hinton, a indiqué lors d’une récente conférence que les gouvernements doivent intervenir et réguler cet espace, pour s’assurer que les machines ne prennent finalement pas le contrôle de la société, en devenant plus intelligentes que les humains. . Il a également mis en garde contre la désinformation que les fausses nouvelles créées par l’IA peuvent créer et les inégalités sociales qui pourraient s’aggraver.
Le scientifique Geoffrey Hinton, l’un des spécialistes mondiaux les plus respectés dans le domaine de l’intelligence artificielle (IA), qui travaille actuellement à l’Université de Toronto, a récemment déclaré à un large public lors de la conférence sur la technologie Collision, qui s’est tenue dans la même ville canadienne, qui existe un risque réel autour d’un possible contrôle des sociétés humaines par l’IAsi son développement n’est pas complété par le contrôle nécessaire et dans certaines limites.
Selon un article publié dans Science Alert, qui reprend les informations de l’Agence France-Presse, Geoffrey Hinton, considéré comme l’un des « parrains » de l’IA, a exhorté les gouvernements à intervenir et à s’assurer que les machines ne prennent pas le contrôle de la société. En mai de cette année, Hinton a annoncé qu’il quittait son poste chez Google, après une décennie chez le géant de la technologie, afin de pouvoir parler plus librement des dangers de l’intelligence artificielle, peu de temps après le lancement de ChatGPT.
Équilibre et contrôle
Dans le cadre de la conférence Collision, qui a réuni plus de 30 000 fondateurs de start-up, investisseurs et travailleurs du secteur technologique, le scientifique a indiqué qu’« en ce moment, il y a 99 personnes très intelligentes qui essaient d’améliorer l’IA et une seule personne qui est aussi très intelligente. » intelligente essayant de comprendre comment empêcher l’intelligence artificielle de prendre le contrôle de la société. Nous devons être plus équilibrés autour de cette question», a-t-il exprimé devant un public qui semblait plus intéressé à profiter des opportunités qu’offre l’IA qu’à la possibilité de lui fixer des limites.
Lors de sa présentation, qui peut être vue dans un post sur Twitter, il a également rappelé qu’il est vital « d’encourager les personnes qui développent l’IA à faire beaucoup d’efforts pour comprendre comment elle pourrait essayer de nous prendre le contrôle de notre société ». : il est impératif de le faire avant qu’il ne devienne plus intelligent que nous« , il ajouta.
Présentation de Hinton au Canada.
Inégalités sociales et désinformation
Dans le même ordre d’idées, Hinton s’est dit préoccupé par le fait que Intelligence artificielle pourrait produire une creuser les inégalités sociales qui caractérise déjà les sociétés humaines, par une augmentation massive de la productivité de sa mise en œuvre au profit des secteurs les plus riches de la société et non des travailleurs ou des groupes sociaux les plus délaissés. « La richesse générée par l’IA n’ira pas aux personnes qui font le travail, elle enrichira les riches et ne profitera pas du tout aux plus pauvres », a-t-il déclaré.
Il a également mis en garde contre le danger posé par « fausses nouvelles » créé par des bots de style ChatGPT. Pour contrôler cet aspect négatif de l’IA, le scientifique pense que le contenu généré par l’IA devrait pouvoir être « marqué » d’une manière ou d’une autre lorsqu’il est faux, de la même manière que la méthode utilisée avec les espèces de la banque centrale.
Enfin, il a souligné que il est crucial que les risques autour du IA sont pris avec le sérieux qu’ils méritent. « Tous les gens devraient comprendre que ce n’est pas de la science-fiction ou de l’alarmisme. C’est un vrai risque auquel il faut réfléchir et comprendre comment y faire face à temps. »