Mardi dernier, le milliardaire sud-africain Elon Musk a annoncé ce qui pourrait être le début d’une nouvelle ère : la première puce de sa société Neuralink implantée dans un être humain.
Ce n’est certainement pas la première puce implantée chez une personne pour lire ses pensées et lui permettre d’agir avec des appareils externes. Mais La puissance financière derrière Musk est bien supérieure à celle des universités et des spin-offs qui mènent déjà des essais cliniques dans ce sens..
Par ailleurs, l’objectif affiché de Neuralink n’est pas seulement de mettre la technologie cerveau-ordinateur au service des personnes atteintes de pathologies invalidantes mais de favoriser une amélioration des capacités humaines, dans une avancée vers le transhumanisme.
[Los neurólogos desmontan el chip cerebral de Elon Musk: « Crea expectación con su amarillismo »]
L’essor des interfaces cerveau-machine, connues sous le nom de BCI, a rendu à la mode le concept de neurodroits, une extension des droits de l’homme appliqués aux progrès scientifiques et technologiques – et aux risques qui en découlent – du 21e siècle.
Le néologisme est plus ancien qu’il n’y paraît. Implicitement ou explicitement, les neurodroits sont évoqués depuis des décennies, mais c’est ces dernières années, au même moment où de grands conglomérats scientifiques ont été créés pour cartographier le cerveau humain – les projets BRAIN et Human Brain – que le débat sur les neurodroits est devenu plus important. urgence.
En 2017, le neurobiologiste espagnol Rafael Yusteidéologue du projet américain BRAIN (lancé sous le mandat de Barack Obama) a expliqué dans Nature le il faut prêter attention au débat éthique généré par les neurotechnologies en vue de son extension du domaine scientifique et clinique à l’électronique grand public.
[Rafael Yuste, el Nuevo ‘Ramón y Cajal’: « En 20 Años Se Podrá Manipular el Cerebro y Cambiar Tu ‘Yo' »]
À mesure que les avancées dans ce domaine s’accélèrent, de nombreuses déclarations, positions et consensus ont émergé à cet égard, qui résument ces neurodroits en cinq : la préservation de l’identité personnelle, la non-ingérence dans la liberté de décision, la confidentialité des données neuronales, l’équité dans l’accès à l’amélioration des capacités cérébrales et la protection contre les biais algorithmiques.
« Ce qui nous inquiète aujourd’hui, ce ne sont pas les puces d’Elon Musk, mais le fait que le langage, la vision, etc. puissent être reconstruits de manière plus définie, de meilleure qualité et qu’il y ait peut-être un saut de la technologie clinique à l’application commerciale », explique David Ezpeletaneurologue à l’hôpital Quirónsalud de Madrid et vice-président de la Société espagnole de neurologie (SEN).
« Il existe de plus en plus d’appareils commerciaux utilisés pour maintenir l’attention, améliorer l’apprentissage, contrôler les jeux vidéo ou même votre relation en réalité virtuelle, qui peuvent être achetés dans les grands magasins comme Amazon et qui ont des conditions d’utilisation très longues auxquelles les gens dis oui sans regarder. Là Vous donnez vos neurodonnées à l’entreprise et, si vous les souhaitez, vous devrez les payer« .
Le Chili, pionnier des neurodroits
Ce n’est pas quelque chose d’hypothétique. L’ancien sénateur chilien Guido Girardi a acheté en 2022 à la société Emotiv un casque sans fil qui le connectait à un BCI, avec lequel il pouvait mesurer ses performances pour optimiser sa productivité.
La version gratuite du logiciel ne lui permettait pas d’importer ou d’exporter son activité neurologique : Girardi devait obtenir une licence premium. L’ancien sénateur a alors demandé leur suppression, mais ces données ne lui appartenaient plus.. Le tribunal a fini par être d’accord : l’utilisateur doit savoir à quoi servent ses données et donner son consentement explicite.
Ce n’est pas un hasard si Girardi, avec Rafael Yuste, avait été peu auparavant l’instigateur d’une réforme de la Constitution chilienne visant à protéger les droits neurologiques. Le pays andin serait le premier à faire un pas, mais une poignée de pays suivent déjà ses traces.
[« Alerta: armas psicotrónicas secretas atacan nuestras mentes y las controlan »]
« Sa protection est déjà une réalité dans certains pays, fondamentalement latino-américains », explique Ekain Payán Ellacuria, professeur associé de droit administratif à l’Université du Pays Basque, « où des textes juridiques ad hoc ont été approuvés ou sont en passe de le faire ». Le Mexique, le Brésil et l’État du Colorado, aux États-Unis, en font partie.
En Europe, l’Espagne a soutenu l’initiative chilienne, « mais elle ne l’a pas fait à travers une réforme de son texte constitutionnel mais à travers une Charte des droits numériques, et donc déclarative ou indicative et non contraignante ».
L’utilisation des technologies pour lire ou contrôler l’esprit remonte plus loin, se souvient David Ezpeleta. À la fin des années 60, le médecin espagnol vivant aux États-Unis José Manuel Rodríguez a publié Le contrôle physique de l’esprit : vers une société psychocivilisée, un livre dans lequel il rendait compte de ses expériences avec des animaux pour influencer à distance leur comportement.
Le plus célèbre d’entre eux est l’appareil Estimociver, un appareil connecté au cerveau d’un taureauspécifiquement à l’amygdale et à l’hippocampe et, à l’aide d’une télécommande, l’a amené à tenter de l’attaquer avec colère et, immédiatement, l’a arrêté dans son élan.
On dit que Rodríguez était lié à la CIA, qui développait déjà elle-même des plans de contrôle mental à distance. Le plus célèbre d’entre eux s’appelle MK Ultra et est l’une des histoires préférées des amateurs de théories du complot.
[La tecnología china que preocupa a EEUU: así han logrado hacer realidad la telepatía y la telequinesis]
Entre les années 1950 et le début des années 1970, des agents de la CIA ont secrètement expérimenté des drogues, l’hypnose ou la thérapie par électrochocs dans le but d’implanter un conditionnement, d’induire l’amnésie et de briser la volonté des participants qui n’avaient pas donné leur consentement. Ils ne l’auraient pas fait autrement : la plupart des activités de ce programme relèvent de la torture.
« D’une certaine manière, les neurodroits ont été attaqués toute notre vie », déclare Ezpeleta. « Les totalitarismes, les stalinismes, les nazismes et de nombreux États parlementaires ont utilisé et utilisent des techniques d’information et de désinformation qui affectent la capacité des citoyens à décider« .
C’est aujourd’hui le moment où les chercheurs, principalement neurologues et neurobiologistes mais aussi psychologues, philosophes, juristes, etc. Nous constatons des progrès cruciaux dans la lecture et l’interprétation des données cérébrales.
L’arrivée de Neuralink et de sa puce représente une avancée dans les intentions, mais aussi dans les risques, des neurotechnologies. « Son objectif ultime vise à assurer la pleine connectivité du cerveau humain », explique Ekain Payán, « avec l’ordinateur, activité neuronale qui peut être consultée, lue, surveillée et manipulée sans difficulté majeure par l’entreprise qui fournit ce service ».
« Il n’est pas du tout illusoire que ces données soient échangées« , prévient le juriste, « comme cela s’est produit avec ceux stockés sur d’autres types de supports physiques ou numériques, à des fins strictement économiques, en direction de ce qui a été qualifié de ‘neurocapitalisme' ».
Technopostureo
Ce besoin est devenu plus urgent avec l’émergence d’intelligences artificielles générales ou génératives, comme ChatGPT, qui apprennent à une vitesse vertigineuse à décoder le signal cérébral et à le traduire à une vitesse encore plus grande et avec un naturel étonnant.
« Ces progrès n’ont pas encore d’application clinique directe, mais le problème est que nous savons que cela est possible, étant donné la rapidité avec laquelle tout se déroule, et c’est quelque chose qui va se généraliser le plus tôt possible », déclare le neurologue.
Il se méfie cependant de la « technoposture » manifestée par des entrepreneurs et des experts, comme les signataires de la lettre ouverte (parmi eux, Elon Musk lui-même) où un moratoire de six mois sur le développement de l’intelligence artificielle a été demandé et ils l’ont comparé au danger. … pour la destruction de l’humanité qui a conduit au développement de la bombe atomique.
« Personne n’a respecté cette lettre, c’était une technoposture ruineuse. Les modèles linguistiques ont continué à progresser à un rythme très rapide. » Ezpeleta et d’autres proposent une comparaison pour les entreprises avec le serment d’Hippocrate des médecins : « Un serment technocratique d’entreprises qui s’engagent à respecter pleinement les neurodroits, respecter les directives cliniques et traiter les données cérébrales avec suffisamment de sécurité pour qu’elles ne soient accessibles que pour l’usage auquel elles sont destinées. C’est quelque chose de bien plus complexe que de simplement dire attention, la technologie arrive ! »
[Elon Musk va a por PayPal: X (Twitter) incorporará un nuevo servicio de pago entre usuarios este año]
Santiago Médianoprésident de Santiago Mediano Abogados et de la section robotique, IA et réalité virtuelle et augmentée du Barreau de Madrid, soutient que le but de ce moratoire « n’a pas été clairement expliqué, et je ne suis pas sûr qu’un moratoire sur le BCI réduise les risques auxquels nous sommes confrontés.
L’avocat souligne que ces technologies, comme l’intelligence artificielle, la robotique ou l’édition génétique, « amènent l’humanité à franchir un seuil qui lui permettra de prendre en main l’évolution de l’espèce ».
Les défis posés par son utilisation « sont d’une telle ampleur et Ils affectent si profondément l’humanité toute entière, présente et future, qu’un débat global et transversal s’impose.dans lequel interviennent non seulement les politiques, mais il s’agit d’un débat anthropologique, philosophique, éthique, médical, biologique, économique, social, culturel et juridique.
« Ce n’est qu’ainsi que nous pourrons », poursuit-il, « éviter que les décisions qui nous concernent tous, y compris les générations futures, soient laissées entre les mains de quelques-uns dont les intérêts et les objectifs restent cachés ».
Suivez les sujets qui vous intéressent