Il n’y a que tellement de réflexion que la plupart d’entre nous peuvent faire dans nos têtes. Essayez de diviser 16 951 par 67 sans chercher un stylo et du papier. Ou une calculatrice. Essayez de faire le shopping hebdomadaire sans liste au dos du reçu de la semaine dernière. Ou sur votre téléphone.
En s’appuyant sur ces appareils pour nous faciliter notre vie, nous rendons-nous plus intelligents ou plus stupides? Avons-nous échangé des gains d’efficacité pour plus près de l’idiotie en tant qu’espèce?
Cette question est particulièrement importante à considérer en ce qui concerne la technologie générative de l’intelligence artificielle (IA) telle que Chatgpt, un chatbot IA appartenant à la société technologique Openai, qui au moment de la rédaction est utilisé par 300 millions de personnes chaque semaine.
Selon un journal récent Par une équipe de chercheurs de Microsoft et de l’Université Carnegie Mellon aux États-Unis, la réponse pourrait être oui. Mais il y a plus dans l’histoire.
Penser bien
Les chercheurs ont évalué comment les utilisateurs perçoivent l’effet de l’IA génératif sur leur propre pensée critique.
D’une manière générale, la pensée critique a à voir avec bien la pensée.
Une façon de le faire est de juger nos propres processus de réflexion contre les normes et les méthodes établies de bon raisonnement. Ces normes comprennent des valeurs telles que la précision, la clarté, la précision, la largeur, la profondeur, la pertinence, la signification et la coïsse des arguments.
D’autres facteurs qui peuvent affecter la qualité de la pensée comprennent l’influence de nos visions existantes du monde, biais cognitifset la dépendance à modèles mentaux incomplets ou inexacts.
Les auteurs de la récente étude adoptent un Définition de la pensée critique Développé par le psychologue éducatif américain Benjamin Bloom et ses collègues en 1956. Ce n’est pas du tout une définition. C’est plutôt un moyen hiérarchique de classer les compétences cognitives, y compris le rappel des informations, la compréhension, l’application, l’analyse, la synthèse et l’évaluation.
Les auteurs déclarent qu’ils préfèrent cette catégorisation, également connue sous le nom de « taxonomie », car elle est simple et facile à appliquer. Cependant, depuis sa conçu, il est tombé en disgrâce et a été discrédité par Robert Marzano Et en effet par Bloom lui-même.
En particulier, il suppose qu’il existe une hiérarchie de compétences cognitives dans lesquelles les compétences dite « d’ordre supérieur » sont construites sur des compétences « d’ordre inférieur ». Cela ne tient pas de motifs logiques ou fondés sur des preuves. Par exemple, l’évaluation, généralement considérée comme un processus culminant ou d’ordre supérieur, peut être le début de l’enquête ou très facile à effectuer dans certains contextes. C’est plus le contexte que la cognition qui détermine la sophistication de la pensée.
Un problème avec l’utilisation de cette taxonomie dans l’étude est que de nombreux produits d’IA génératifs semblent l’utiliser pour guider leur propre sortie. Ainsi, vous pouvez interpréter cette étude comme un test de l’IA génératrice, par la manière dont elle est conçue, est efficace pour encadrer la façon dont les utilisateurs pensent de la pensée critique.
La taxonomie de Bloom est également un aspect fondamental de la pensée critique: le fait que le penseur critique effectue non seulement ces compétences et bien d’autres compétences cognitives, mais les exécute bien. Ils le font parce qu’ils ont une préoccupation globale pour la vérité, ce que les systèmes d’IA n’ont pas.
Une confiance plus élevée dans l’IA est égale à la pensée moins critique
Recherche Publié plus tôt cette année a révélé « une corrélation négative significative entre l’utilisation fréquente des outils d’IA et les capacités de pensée critique ».
La nouvelle étude explore en outre cette idée. Il a interrogé 319 travailleurs du savoir tels que les praticiens de la santé, les éducateurs et les ingénieurs qui ont discuté de 936 tâches qu’ils ont menées avec l’aide d’une IA générative. Fait intéressant, l’étude a révélé que les utilisateurs se considèrent comme une réflexion critique moins dans l’exécution de la tâche que dans la surveillance des étapes de vérification et d’édition.
Dans les environnements de travail à enjeux élevés, le désir de produire des travaux de haute qualité combinés à la peur des représailles sert de motivations puissantes aux utilisateurs pour engager leur pensée critique dans l’examen des résultats de l’IA.
Mais dans l’ensemble, les participants croient plus que les augmentations d’efficacité que compensent les efforts dépensés pour fournir une telle surveillance.
L’étude a révélé que les personnes qui avaient une confiance plus élevée dans l’IA présentaient généralement une pensée moins critique, tandis que les personnes ayant une confiance plus grande en elles-mêmes avaient tendance à afficher une pensée plus critique.
Cela suggère que l’IA génératrice ne nuit pas à sa pensée critique – à l’origine de commencer.
Problème, l’étude s’appuyait trop sur l’auto-déclaration, qui peut être soumis à une gamme de biais et d’interprétation problèmes. En mettant cela de côté, la pensée critique a été définie par les utilisateurs comme « fixer des objectifs clairs, affiner les invites et évaluer le contenu généré pour répondre aux critères et normes spécifiques ».
Les «critères et normes» se réfèrent ici davantage aux fins de la tâche qu’aux objectifs de la pensée critique. Par exemple, une sortie répond aux critères si elle « est conforme à ses requêtes » et les normes si « l’artefact généré est fonctionnel » pour le lieu de travail.
Cela soulève la question de savoir si l’étude mesurait vraiment la pensée critique.
Devenir un penseur critique
Implicite dans la nouvelle étude est l’idée que l’exercice de la pensée critique au stade de la surveillance est au moins meilleur qu’une excédent de trop réflexive sur l’IA générative.
Les auteurs recommandent que les développeurs d’IA génératives ajoutent des fonctionnalités pour déclencher la surveillance critique des utilisateurs. Mais est-ce suffisant?
La pensée critique est nécessaire à chaque étape avant et lors de l’utilisation de l’IA, lors de la formulation de questions et d’hypothèses à tester, et lorsqu’il interroge les sorties pour le biais et la précision.
La seule façon de garantir que l’IA génératrice ne nuise pas à votre pensée critique est de devenir un penseur critique avant de l’utiliser.
Devenir un penseur critique nécessite d’identifier et de remettre en question les hypothèses non déclarées derrière les réclamations et d’évaluer diverses perspectives. Cela nécessite également de pratiquer le raisonnement systématique et méthodique et le raisonnement en collaboration pour tester vos idées et penser avec les autres.
La craie et les tableaux de la craie nous ont améliorés en mathématiques. L’IA générative peut-elle nous rendre meilleur dans la pensée critique? Peut-être que – si nous sommes prudents, nous pourrions être en mesure d’utiliser une IA générative pour nous défier et augmenter notre pensée critique.
Mais en attendant, il y a toujours des étapes que nous pouvons, et devrions, prendre pour améliorer notre pensée critique au lieu de laisser une IA faire la réflexion pour nous.
Cet article est republié à partir de La conversation sous une licence créative Commons. Lire le article original.