Une enquête exhaustive sur différents systèmes d’IA, auxquels 14 critères ont été appliqués pour détecter d’éventuels signes de conscience, a conclu que l’Intelligence Artificielle manque de cet attribut des êtres vivants, bien que certains de ses processus soient proches de cette qualité d’être humain et animal.
La recherche sur la conscience est un domaine très ancien, remontant aux anciens philosophes grecs. Ces philosophes s’interrogeaient sur la nature de la conscience et sur ses relations avec le corps.
Aux XIXe et XXe siècles, la recherche sur la conscience a commencé à se concentrer sur le cerveau. Les scientifiques ont commencé à étudier les régions du cerveau impliquées dans la conscience et à explorer comment l’activité cérébrale donne naissance à une expérience consciente.
Ces dernières années, la recherche sur la conscience a progressé grâce au développement de nouvelles technologies permettant d’étudier l’activité cérébrale en temps réel et de créer des modèles informatiques de conscience.
trois jalons
Parmi les étapes les plus importantes de la recherche sur la conscience, citons la découverte que la conscience n’est pas une propriété unique des humains. Les animaux sont également conscients, même si leur conscience peut différer de la nôtre à certains égards.
Ils comprennent également l’identification d’un certain nombre de régions du cerveau qui semblent impliquées dans la conscience. Ces régions sont le cortex cérébral, le thalamus et l’hypothalamus.
Enfin, il a été établi que la conscience est étroitement liée à l’activité cérébrale. Lorsque les gens sont conscients, leur cerveau présente une activité plus coordonnée et organisée que lorsqu’ils sont inconscients.
Qu’est-ce que la conscience ?
Malgré ces progrès, il reste encore beaucoup de choses que nous ignorons sur la conscience. L’une des questions les plus importantes est la suivante : qu’est-ce qui rend la conscience consciente ?
Pour répondre à cette question, différents chercheurs ont proposé une série de théories sur la nature de la conscience. Certaines théories suggèrent qu’il s’agit d’une propriété émergente du cerveau, même nature quantiquetandis que d’autres suggèrent que cela pourrait être indépendant du cerveau.
Tout ce processus historique culmine désormais avec un nouveau défi : comment enquêter sur la conscience d’un algorithme d’IA, qui est encore un ensemble d’instructions qui développent des systèmes artificiels capables d’apprendre et de s’adapter à leur environnement.
Un algorithme peut-il avoir une conscience ? Steve Johnson sur Unsplash.
Un algorithme peut-il avoir une conscience ?
La question est : comment pouvons-nous savoir si l’intelligence artificielle peut ou non manifester une certaine forme de conscience ? article.
Les recherches que nous avons menées jusqu’à présent sur la conscience n’ont pas été sans surprises : nous avons découvert non seulement qu’elle n’est pas une propriété unique de l’humain, mais aussi qu’elle peut se manifester de différentes manières (verbale et abstraite chez l’humain, sensoriel et concret). chez les animaux).
Nous avons également été surpris que la conscience puisse être partagée : les êtres vivants peuvent partager leur conscience entre eux, par exemple, par l’empathie ou la communication.
En outre, certaines recherches suggèrent que la conscience pourrait être une propriété émergente de l’univers : elle pourrait être une propriété fondamentale de l’existence qui serait d’une manière ou d’une autre présente dans toutes choses.
Une autre surprise ?
Il s’agit dans le nouveau défi de la conscience de déterminer si elle peut également être présente dans un algorithme d’Intelligence Artificielle. Si l’IA devient sensible, nous réserve-t-elle une autre surprise ?
Aujourd’hui, un groupe de 19 informaticiens, neuroscientifiques et philosophes ont trouvé une formule qui pourrait bien fonctionner : dans un article de 120 pages, ils s’appuient sur les théories de la conscience humaine pour proposer 14 critères pour la détecter dans les architectures d’IA existantes.
Et comme le mot de conscience lui-même est difficile à définir, à tester dans un système d’IA, les chercheurs se sont concentrés sur ce que le philosophe accrédité de l’Université de New York, Ned Blocil a appelé la « conscience phénoménale », ou la qualité subjective d’une expérience : ce que ça fait de voir rouge ou de ressentir de la douleur.
pas de scanner
Mais comment étudier la conscience phénoménale d’un algorithme ? Contrairement au cerveau humain, il ne présente aucun signe de son fonctionnement interne détectable par un EEG ou une IRM.
Pour surmonter cet écueil, les chercheurs ont exploré les théories actuelles de la conscience humaine à la recherche des principaux descripteurs d’un état de conscience, puis les ont recherchés dans l’architecture sous-jacente d’une IA.
Et, surprise ! de nombreuses architectures intelligentes remplissaient certaines des exigences des indicateurs de conscience décrits dans les théories analysées.
indications insuffisantes
Ces indicateurs de conscience sont liés aux processus d’IA pour générer des images, à la présence d’un espace de travail global et même à ce qu’on appelle la conscience spatiale, considérée comme le symptôme le plus proche du terme de conscience choisi pour explorer cette capacité du conscience.IA.
Cependant, la conclusion à laquelle ces chercheurs sont parvenus est que, puisqu’aucune des IA testées ne répondait à plus de quelques exigences, aucun ne peut être considéré comme un candidat sérieux pour attribuer la qualité de conscience.
Premier pas
Cependant, ce développement n’est qu’une première étape qui sera suivie par d’autres pour affiner la recherche de conscience en un algorithme d’IA. Un autre projet reste sur la table pour concevoir un test de conscience plus large pouvant également être appliqué aux organoïdes, aux animaux et aux nouveau-nés.
Quoi qu’il en soit, ce ne sera pas facile, ce dont ces chercheurs sont conscients, car le problème est que les théories actuelles reposent sur notre compréhension de la conscience humaine.
Cette perspective est une limitation difficile à surmonter lorsqu’on examine un algorithme pour voir s’il reflète en quelque sorte qui nous sommes. Nous sommes toujours coincés dans le anthropocentrismeun mirage évolutif apparent dont nous avons à peine conscience.
Référence
La conscience dans l’intelligence artificielle : aperçus de la science de la conscience. Patrick Butlin et coll. arXiv:2308.08708v3 [cs.AI] DOOI : https://doi.org/10.48550/arXiv.2308.08708