Nous sommes une génération chanceuse. Nous vivons plongés dans la plus grande révolution technologique de l’histoire de l’humanité. Et ça vient de commencer. Si l’on croyait que la convergence entre l’arrivée d’internet et la capacité informatique, le monde du web 2.0 et le téléphone mobile, constituait une profonde mutation, quelque chose de beaucoup plus grand est en train de percer.
Lorsqu’il a semblé que la loi de Moore commençait à atteindre sa limite physique, nous avons découvert des réseaux neuromorphiques qui, imitant le fonctionnement des neurones et des synapses dans notre cerveau, élargissent la capacité d’analyse et de traitement de l’information, tout en L’heure de l’informatique quantique se rapproche.
Quand on pensait que les algorithmes et modèles Big Data étaient le présent et le futur, quelque chose de beaucoup plus puissant et étonnant comme l’intelligence artificielle. Une accumulation de technologies (reconnaissance vocale, reconnaissance d’images, algorithmes de deep learning), et l’on est ébloui par l’émergence d’un modèle imparfait mais d’une puissance inquiétante comme le chat GPT.
Quand on assimile encore l’impact brutal du web2 dans nos vies avec ses réseaux sociaux, ses plateformes et ses dérivés sociaux et économiques, on découvre le monde du web 3 avec l’avènement des réalités virtuelles ou augmentéesune décentralisation massive avec l’adoption généralisée de la blockchain et l’avènement de la tokenisation.
Alors qu’il semblait que les réseaux de télécommunications seraient une limite à l’explosion de données que nous générons chaque jour, émergent des réseaux fibre et 5G qui, une fois déployés, évoluent et ce ne sont plus des réseaux de télécommunications mais des supercalculateurs présent dans tous les coins de chaque territoire.
Nous vivons plongés dans la plus grande révolution technologique de l’histoire de l’humanité. Et ça vient de commencer.
La confluence d’une capacité de traitement et de stockage de données quasiment illimitée, de supercalculateurs terrestres (les anciens réseaux de communication) qui complètent et dépassent la puissance du cloud, d’un web3 qui casse les règles du jeu du web2 et décentralise massivement le monde de l’internet, ouvrent la voie chemin pour le grand changement qu’est l’irruption massive de l’intelligence artificielle. Avec elle, l’arrivée possible de ce qu’on appelle l’intelligence générative artificielle (AGI).
L’IAG est, pour de nombreux technologues, un tournant dans l’humanité, probablement supérieur à ce que fut l’arrivée de l’imprimerie ou de la fission nucléaire. L’IAG est un système informatique capable de générer de nouvelles connaissances scientifiques et d’effectuer n’importe quelle tâche humaine. Il est impossible de déterminer quand il arrivera, mais nous sommes proches. Se rapprocher.
La vitesse d’apprentissage des modèles d’intelligence artificielle actuels de l’IA a été multipliée par 100 millions au cours des 10 dernières années, comme le rappelle le FT dans un article récent sur le développement de l’IA « Nous devons ralentir la course à l’IA divine ». La raison est très simple : en 2012, les systèmes d’IA ont été entraînés avec des quantités de données et une puissance de calcul très limitées. Aujourd’hui, nous alimentons l’AGI avec toutes les données disponibles sur internet et il y en a chaque jour davantage.
Le résultat est qu’aujourd’hui l’AGI est capable de passer l’examen d’entrée médical et légal dans le centile le plus élevé. Aujourd’hui, l’AGI écrit 40 % du code d’un ingénieur logiciel et commence à développer des capacités complexes telles que la triche. Notre capacité à faire la distinction entre l’AGI et le texte généré par l’homme est déjà impossible dans la pratique.
L’AGI est, pour de nombreux technologues, un tournant dans l’humanité, probablement plus important que l’arrivée de l’imprimerie ou de la fission nucléaire.
La technologie a toujours fait progresser l’humanité. L’AGI a la capacité de le faire de façon exponentielle. A titre d’exemple, DeepMind a développé en 2021 un modèle capable de prédire la forme des acides aminés qui composent les protéines. Cette capacité était à 30% et DeepMind l’a portée à 60%. Avec cette découverte nous pouvons concevoir des cultures résistantes au changement climatique, développer de nouveaux médicaments, ou générer des enzymes capables de dégrader le plastique.
Mais aussi, et comme cela s’est déjà produit lors des précédentes révolutions technologiques, Nous ne pouvons pas le laisser se déchaîner. Tout ce que la technologie est capable de faire n’est pas bon ou socialement acceptable.
Un AGI en fuite ou avide de pouvoir est un risque existentiel. Il pourrait produire des molécules nocives pour l’homme ou amener les modèles de fake news ou de deep fakes à devenir une menace pour la démocratie par des campagnes massives de désinformation systématique et indétectable. Des renseignements illimités mis au service d’intérêts particuliers peuvent créer des armes chimiques ou cybernétiques.
Les entreprises qui développent elles-mêmes l’AGI le font sans savoir comment arrêter le processus alors que l’AGI elle-même acquiert une autonomie incontrôlable. Au premier trimestre 2023, les entreprises qui développent AGI ont reçu 11 milliards de dollars, le même investissement qu’elles avaient reçu au cours des 10 années précédentes.
On accélère mais, jusqu’où ?
C’est le moment surtout des Sciences Sociales. La technologie est déjà là mais nous ne devons pas la laisser seule. C’est le moment de la sociologie, de la philosophie, de l’anthropologie, du droit… Décider comment nous voulons que cela se produise et que ce soit bon pour tout le monde, et pas seulement pour quelques-uns.
Est-il éthique de pouvoir choisir le QI de nos enfants ? Pouvons-nous alimenter les systèmes AGI avec des données contenant des préjugés raciaux, de genre ou de statut socio-économique ? Où sont les droits analogiques essentiels tels que la vie privée, la sécurité ou le droit à la vérité ? Comment défendre la démocratie face aux menaces hybrides de la cybersécurité et de la désinformation ? Comment faire en sorte que les données, qui font partie de notre dignité, fassent partie de notre souveraineté individuelle et collective ? Il y a beaucoup de nouvelles questions qui n’ont pas de réponses dans notre monde d’aujourd’hui..
René Descartes a vécu le début d’une grande révolution technologique et intellectuelle, l’avènement du rationalisme moderne. Il rompt avec les explications fondées sur la tradition, la religion ou l’expérience, pour poser les fondements de la connaissance dans la raison.
Jusqu’à maintenant la raison et la pensée scientifique étaient une prérogative humaine. Sur notre planète, seul l’homme était capable de le développer. Mais aujourd’hui, l’homme crée des machines qui sont également capables de raisonnement logique, et si elles continuent à évoluer au rythme exponentiel qu’elles font aujourd’hui, elles dépasseront probablement les capacités de notre cerveau.
L’expression la plus précise est probablement « je pense et donc je suis ». Exister n’est pas la même chose qu’être.
Cependant, les machines ne pourront jamais imiter toutes les capacités humaines. Car certains, comme l’émotion, l’empathie, la compassion, la solidarité, l’amitié, l’amour, le courage ou le besoin de justice, sont exclusivement humains. Ils font partie de notre être. Et seulement le nôtre.
Le moment est venu de s’arrêter et de penser comme seuls les humains en sont capables. Il est temps d’arrêter et d’écrire un nouveau contrat social. Décider et déterminer quels sont les droits et obligations fondamentaux des personnes et des machines dans ce nouveau monde.
Cela s’est déjà produit dans d’autres révolutions technologiques précédentes. La révolution industrielle a produit des avancées incroyables mais aussi des injustices et de l’exploitation. Un contrat social doit être rédigé définissant les droits et les obligations. L’arrivée de l’énergie atomique a produit des avancées inimaginables jusqu’alors, mais aussi l’arrivée de la menace nucléaire. La recherche bactériologique crée de nouvelles menaces mais aussi des avancées scientifiques exponentielles.
Il n’y a probablement pas de consensus aujourd’hui sur la nécessité ou non d’un moratoire sur l’avancement de l’IAG à l’échelle mondiale. Il y a même des opinions qui pensent que si seulement une partie de l’humanité décide de déclarer ce moratoire, l’autre partie aura un avantage concurrentiel décisif et pourrait créer une déstabilisation de l’ordre géopolitique mondial.
C’est une question de valeurs. Nous devons mettre les gens au centre. Les droits des personnes au-dessus de tout autre critère. Aujourd’hui, ce n’est pas le cas.
« Je pense, donc je suis » est une traduction du français « Je pense donc je suis », qui a été traduit en latin par « Cogito ergo sum ».
L’expression la plus précise est probablement « je pense et donc je suis ». Exister n’est pas la même chose qu’être. Les machines peuvent penser et peuvent exister. Mais l’être humain, parce qu’il peut penser et sentir, l’est.
***José María Álvarez-Pallete est le président exécutif de Telefónica
Suivez les sujets qui vous intéressent