Une autre mise à pied sous AI Brain Trust de Google et plus de discorde

Moins de deux ans après que Google a licencié deux chercheurs qui critiquaient les préjugés intégrés aux systèmes d’intelligence artificielle, la société a licencié un chercheur qui a publié un article sur les capacités d’un type spécifique d’intelligence artificielle utilisé dans la fabrication de puces informatiques. .

Le chercheur, Satrajit Chatterjee, a dirigé une équipe de scientifiques pour remettre en question le célèbre article de recherche, publié l’année dernière dans la revue scientifique Nature, selon lequel les ordinateurs pourraient concevoir certaines parties d’une puce informatique plus rapidement et mieux que les humains.

docteur Chatterjee, 43 ans, a été licencié en mars peu de temps après que Google a annoncé à son équipe qu’il ne publierait pas d’article réfutant certaines des affirmations faites dans Nature, quatre personnes familières avec la situation qui n’étaient pas autorisées à en parler ouvertement ont dit oui. Google a confirmé dans une déclaration écrite que le Dr. Chatterjee a été licencié « pour une bonne cause ».

Google a refusé de donner des détails sur le licenciement du Dr. Cependant, affronter Chatterjee offrait une défense acharnée de la recherche qu’il critiquait et de sa réticence à publier son évaluation.

« Nous avons soigneusement examiné l’article original de Nature et nous maintenons les résultats de l’examen par les pairs », a déclaré Zoubin Ghahramani, vice-président de Google Research, dans une déclaration écrite. « Nous avons également enquêté de manière approfondie sur les affirmations techniques d’une soumission ultérieure, et celle-ci ne répondait pas à nos normes de publication. »

Le licenciement du Dr. Chatterjee était le dernier exemple de discorde dans et autour de Google Brain, un groupe de recherche sur l’IA considéré comme la clé de l’avenir de l’entreprise. Après avoir dépensé des milliards de dollars pour embaucher des chercheurs de haut niveau et développer de nouveaux types d’automatisation informatique, Google a fait face à une multitude de plaintes concernant la manière dont il construit, utilise et représente ces technologies.

Les tensions parmi les chercheurs en IA de Google reflètent des luttes beaucoup plus importantes dans l’industrie technologique, qui est aux prises avec une myriade de questions sur les technologies émergentes d’IA et les problèmes sociaux épineux qui ont empêtré ces technologies et les personnes qui les construisent.

La dernière rangée suit également un schéma familier de licenciements et d’allégations de duel d’actes répréhensibles parmi les chercheurs en IA de Google, une préoccupation croissante pour une entreprise qui a misé son avenir sur l’infusion de l’intelligence artificielle dans tout ce qu’elle fait. Sundar Pichai, PDG de la société mère de Google, Alphabet, a comparé l’IA à l’arrivée de l’électricité ou du feu, la qualifiant d’une des aspirations les plus importantes de l’humanité.

Google Brain a commencé comme un projet parallèle il y a plus de dix ans lorsqu’un groupe de chercheurs a développé un système qui a appris à reconnaître les chats dans les vidéos YouTube. Les dirigeants de Google étaient tellement enthousiasmés par la perspective que les machines apprennent par elles-mêmes qu’ils ont rapidement agrandi le laboratoire et jeté les bases de la transformation de l’entreprise avec cette nouvelle intelligence artificielle. Le groupe de recherche est devenu le symbole des plus grandes ambitions de l’entreprise.

Avant sa libération, Dr. Gebru a reçu l’autorisation de publier des recherches sur la manière dont les systèmes linguistiques basés sur l’IA, y compris la technologie développée par Google, pourraient les amener à utiliser le langage biaisé et haineux qu’ils apprennent à partir de textes dans des livres et sur des sites Web. docteur Gebru a déclaré qu’elle était contrariée par la réponse de Google à de telles plaintes, notamment en refusant de publier le journal.

Quelques mois plus tard, la société a licencié l’autre chef de l’équipe, Margaret Mitchell, qui a remis en question la manière dont Google gérait le Dr. Gebru a publiquement dénoncé. La société a déclaré que le Dr. Mitchell a violé son code de conduite.

L’article dans Nature, publié en juin dernier, faisait la promotion d’une technologie appelée apprentissage par renforcement, qui, selon l’article, pourrait améliorer la conception des puces informatiques. La technologie a été saluée comme une percée dans l’intelligence artificielle et une grande amélioration par rapport aux approches existantes de la conception de puces. Google a déclaré avoir utilisé cette technique pour créer ses propres puces d’intelligence artificielle.

Google travaille depuis des années sur l’application de la technique d’apprentissage automatique à la conception de puces et a publié un article similaire un an plus tôt. À cette époque, Google a demandé au Dr. Chatterjee, qui a obtenu son doctorat en informatique de l’Université de Californie à Berkeley et a travaillé comme chercheur scientifique chez Intel, pour déterminer si l’approche pourrait être vendue ou concédée sous licence à une société de conception de puces, ont déclaré des personnes proches du dossier.

Mais docteur Dans un e-mail interne, Chatterjee a exprimé des réserves sur certaines des affirmations du journal et s’est demandé si la technologie avait été testée de manière approfondie, ont déclaré trois des personnes.

Alors que le débat sur cette recherche se poursuivait, Google Nature a présenté un autre article. Pour la soumission, Google a apporté quelques ajustements à l’article précédent, en supprimant les noms de deux auteurs étroitement associés au Dr. Chatterjee et ont également fait part de leurs inquiétudes concernant les principales affirmations du journal, ont déclaré les sources.

Lorsque le nouvel article a été publié, certains chercheurs de Google ont été surpris. Ils pensaient qu’il ne suivait pas un processus d’approbation de publication que Jeff Dean, le vice-président senior de la société qui supervise la plupart de ses efforts d’IA, a jugé nécessaire après le licenciement du Dr. Gebru mentionné, les gens ont dit.

Google et l’un des deux principaux auteurs de l’article, Anna Goldie, qui l’a co-écrit avec une autre informaticienne, Azalia Mirhoseini, ont déclaré que les modifications par rapport à l’article précédent ne nécessitaient pas le processus d’approbation complet. Google a autorisé le Dr. Chatterjee et une poignée de chercheurs internes et externes pour travailler sur un article qui contestait certaines de ses affirmations.

L’équipe a soumis le document de réfutation à un soi-disant comité de décision pour approbation de publication. Des mois plus tard, le papier a été rejeté.

Les chercheurs qui ont travaillé sur le document de réfutation ont déclaré qu’ils voulaient faire remonter le problème au conseil d’administration de M. Pichai et Alphabet. Ils ont fait valoir que la décision de Google de ne pas publier la réfutation violait ses propres principes d’IA, y compris le maintien de normes élevées d’excellence scientifique. Peu de temps après, le Dr. Chatterjee a dit qu’il n’était plus un employé, ont dit les gens.

Mme Goldie a dit que le Dr. Chatterjee a demandé à diriger leur projet en 2019 et ils ont refusé. Lorsqu’il a ensuite critiqué cela, elle a déclaré qu’il ne pouvait pas étayer ses plaintes et a ignoré les preuves qu’ils ont présentées en réponse.

« Sat Chatterjee mène une campagne de désinformation contre moi et Azalia depuis plus de deux ans », a déclaré Mme Goldie dans une déclaration écrite.

Elle a déclaré que le travail avait été évalué par des pairs par Nature, l’une des publications scientifiques les plus prestigieuses. Et elle a ajouté que Google a utilisé ses méthodes pour construire de nouvelles puces et que ces puces sont actuellement utilisées dans les centres de données de Google.

Laurie M. Burgess, l’avocate du Dr. Chatterjee a déclaré qu’il était décevant que « certains auteurs de l’article de Nature tentent de mettre fin à la discussion scientifique en nommant le Dr. Diffamez et attaquez Chatterjee pour avoir simplement lutté pour la transparence scientifique. » Mme Burgess a également fourni des conseils au Dr. Dean, qui était l’un des 20 co-auteurs de l’article Nature.

« Les actions de Jeff Dean pour supprimer la publication de toutes les données expérimentales pertinentes, et pas seulement des données soutenant son hypothèse préférée, devraient être une profonde préoccupation à la fois pour la communauté scientifique et pour la communauté plus large qui utilise les services et produits Google », a déclaré Frau Burgess.

docteur Dean n’a pas répondu à une demande de commentaire.

Après que le document de réfutation ait été partagé avec des universitaires et d’autres experts extérieurs à Google, la controverse s’est propagée à la communauté mondiale des chercheurs spécialisés dans la conception de puces.

Le fabricant de puces Nvidia affirme avoir utilisé des méthodologies de conception de puces similaires à celles de Google, mais certains experts ne savent pas exactement ce que la recherche de Google signifie pour l’industrie technologique au sens large.

« Si cela fonctionne vraiment bien, ce serait une très bonne chose », a déclaré Jens Lienig, professeur à l’Université technique de Dresde en Allemagne, en référence à la technologie d’IA décrite dans l’article de Google. « Mais ce n’est pas clair si cela fonctionne. »