Bender n’est pas dans tous les cas opposé à l’utilisation de modèles de langage pour les échanges question-réponse. Elle a un assistant Google dans sa cuisine qu’elle utilise pour convertir les mesures dans une recette. « Parfois, c’est super pratique de pouvoir accéder à l’information par la voix », dit-elle.
Mais Shah et Bender fournissent également un exemple plus troublant qui a fait surface l’année dernière lorsque Google a répondu à la question « Quelle est la langue la plus laide en Inde ? avec l’extrait « La réponse est le kannada, une langue parlée par environ 40 millions de personnes dans le sud de l’Inde. »
Pas de réponses faciles
Il y a un dilemme ici. Les réponses directes peuvent être pratiques, mais elles sont aussi souvent fausses, non pertinentes ou offensantes. Ils peuvent masquer la complexité du monde réel, explique Benno Stein de l’Université Bauhaus de Weimar, en Allemagne.
En 2020, Stein et ses collègues Martin Potthast de l’Université de Leipzig et Matthias Hagen de l’Université Martin Luther de Halle-Wittenberg, en Allemagne, ont publié un article soulignant les problèmes avec des réponses directes. « La réponse à la plupart des questions est ‘Cela dépend' », déclare Matthias. « Il est difficile de joindre quelqu’un qui cherche. »
Stein et ses collègues pensent que les technologies de recherche ont évolué, passant de l’organisation et du filtrage des informations à des techniques telles que la fourniture d’une liste de documents correspondant à une requête de recherche, à la fourniture de recommandations sous la forme d’une réponse unique à une question. Et ils pensent que c’est un pas trop loin.
Encore une fois, le problème n’est pas les limites de la technologie existante. Même avec une technologie parfaite, nous n’obtiendrions pas de réponses parfaites, déclare Stein : « Nous ne savons pas ce qu’est une bonne réponse parce que le monde est complexe, mais nous arrêtons de penser cela lorsque nous voyons ces réponses directes. »
Shah est d’accord. Donner aux gens une réponse unique peut être problématique car cela masque les sources de ces informations et tout désaccord entre eux, dit-il : « Cela dépend vraiment de notre confiance totale dans ces systèmes. »
Shah et Bender proposent un certain nombre de solutions aux problèmes qu’ils prévoient. En général, les technologies de recherche doivent prendre en charge les différentes façons dont les gens utilisent les moteurs de recherche aujourd’hui, dont beaucoup ne sont pas servis par des réponses directes. Les gens utilisent souvent la recherche pour explorer des sujets sur lesquels ils n’ont peut-être même pas de questions spécifiques, dit Shah. Dans ce cas, il serait plus logique de fournir simplement une liste de documents.
Il doit être clair d’où proviennent les informations, en particulier lorsqu’une IA s’approvisionne en pièces auprès de plusieurs sources. Certains assistants vocaux le font déjà, par exemple en préfixant une réponse par « Voici ce que j’ai trouvé sur Wikipédia ». Les futurs outils de recherche devraient également avoir la capacité de dire : « C’est une question stupide », déclare Shah. Cela aiderait la technologie à éviter de répéter des prémisses offensantes ou biaisées dans une requête.
Stein suggère que les moteurs de recherche basés sur l’IA pourraient présenter les raisons de leurs réponses en donnant les avantages et les inconvénients de différents points de vue.
Cependant, bon nombre de ces propositions ne font que souligner le dilemme identifié par Stein et ses collègues. Tout ce qui réduit le confort sera moins attrayant pour la majorité des utilisateurs. « Si vous ne cliquez pas sur la deuxième page des résultats de Google, vous ne voudrez pas lire d’autres arguments », déclare Stein.
Google dit qu’il est conscient de bon nombre des problèmes soulevés par ces chercheurs et travaille dur pour créer une technologie que les gens trouveront utile. Mais Google est le développeur d’un service de plusieurs milliards de dollars. In fine, les outils qui attirent le plus de monde sont développés.
Stein espère que ce n’est pas seulement une question de commodité. « La recherche est tellement importante pour nous, pour la société », dit-il.