Chaque fois qu’une technologie surprenante émerge, elle apporte avec elle une discussion très raisonnable et attendue sur son contrôle et ses conséquences. Le cas de l’intelligence dite artificielle – non seulement il n’est pas intelligent, car il se borne à faire des corrélations statistiques plus ou moins sophistiquées, mais il est beaucoup moins artificiel, car il n’y a rien de plus naturel que les données avec lesquelles il travaille, générées par nous-mêmes – la première question a tournait autour de ses effets sur les personnes, ou plus précisément, sur l’emploi.
Là encore, comme pour toute technologie émergente, il est raisonnable de penser que son application aura un effet sur l’emploi. Les Big Tech, qui se battent depuis des mois pour voir qui licencie le plus de travailleurs et qui est capable de « faire plus avec moins », ils le savent bien : un travailleur administratif ou managérial, de ceux qu’on appelle habituellement les « cols blancs », utilisant des algorithmes génératifs bien rodés, est éventuellement capable d’effectuer le travail que plusieurs travailleurs faisaient auparavant. Ou du moins, c’est ce qu’ils veulent croire, qu’on verra ce qui se passera quand on passera du domaine des hypothèses à celui de la dure réalité.
Mais au-delà d’un effet sur l’emploi que beaucoup définissent comme « votre emploi ne vous sera pas enlevé par un algorithme, mais par une personne qui sait utiliser cet algorithme mieux que vous», il y a le problème complexe du contrôle de la technologie. Beaucoup commencent à dire que l’IA va devenir le nouvel oracle, le nouveau McKinsey. D’autres, peut-être influencés par ce que l’histoire nous dit qu’il s’est passé il n’y a pas si longtemps avec le soi-disant Web 2.0, affirment que l’IA va être sous le contrôle des grandes entreprises technologiques, et que le reste d’entre nous, les mortels, utiliserons simplement leur algorithmes – l’équivalent de dire quelque chose comme « nous penserons ce qu’ils nous laisseront penser ».
Est-il logique de penser qu’une technologie comme l’IA – ou plus exactement l’apprentissage automatique – avec une évolution évidente vers l’abaissement de ses barrières à l’entrée, va être entre les mains de quelques-uns ? La réalité est que, quelques mois après l’apparition d’OpenAI ChatGPT, qui n’est pas exactement une startup, mais une société fortement capitalisée depuis sa création Et avec une valorisation de plusieurs dizaines de milliards, de nombreuses entreprises ont vu le jour qui appliquent des algorithmes à à peu près n’importe quoi, et le font, dans de nombreux cas, très bien.
Peu de temps après qu’OpenAI ait mis sur le marché Dall E, son algorithme de génération d’images, il en existait déjà plusieurs autres — Midjourney, Stabe Diffusion, etc. — provenant d’autres sources. Qu’est-ce qui nous porte à penser que les algorithmes les plus utilisés du futur pourraient être entre les mains de quelques entreprises ?
Mais au-delà d’un effet sur l’emploi que beaucoup définissent comme « votre emploi ne vous sera pas enlevé par un algorithme, mais par une personne qui sait utiliser cet algorithme mieux que vous »
L’idée, en principe, est terrifiante : les possibilités de manipulation d’un algorithme sont très élevées, et donc, la perspective de quelques entreprises contrôlant les plus largement utilisées et les utilisant pour déformer notre image du monde, bien réelle. En fait, c’est en grande partie ce qui s’est passé avec le soi-disant Web 2.0 : derrière la promesse de démocratiser la participation au web, se cachait une idée très dangereuse: celui que pour participer, nous devions ouvrir un compte dans une des entreprises qui nous offraient l’accès à leurs outils, et donc, leur donner nos données en échange.
Cette idée a fait de certaines de ces entreprises les plus grandes et les plus puissantes du monde, et les protagonistes de multiples outrages, de la manipulation électorale au génocide. Mais aussi, ça a déformé notre image du monde sélectionner grâce à des algorithmes de recommandation ce qu’ils mettent sous nos yeuxnous radicalisant ou renforçant nos croyances dans le simple but de nous faire rester plus longtemps dans leurs fiefs numériques et cliquer sur plus de publicités.
Maintenant, qu’adviendra-t-il du développement commercial de cette technologie naissante que beaucoup insistent pour appeler l’IA ? Ne verra-t-on pas, comme cela s’est produit dans d’autres cas, un réveil d’alternatives open source, open source, qui nous permettent de ne pas dépendre des algorithmes d’entreprises puissantes ? Après tout, il s’agit de données, que presque tout le monde peut compiler avec plus ou moins de succès, et de statistiques, qui sont un livre d’instructions ouvert vers lequel nous pouvons tous nous tourner, n’est-ce pas ? Verrons-nous de plus en plus d’algorithmes pour de plus en plus de choses et entre de plus en plus de mains, ou attendons-nous un avenir de concentration et de « seigneurs des algorithmes » prêts à dominer le monde comme dans un film Marvel ?
Les possibilités de manipulation d’un algorithme sont très élevées
Comme dans tant de choses, la clé sera dans le règlement. C’est pourquoi il est si important, étant donné que la réglementation est généralement effectuée par des personnes qui n’ont pas la moindre idée de ce qu’elles réglementent et qui ont tendance à se déplacer par des critères aussi absurdes que « l’alarme sociale », que nous réglementons avec soin.
Si la proposition européenne va de l’avant telle quelle, par exemple en essayant de forcer quiconque met un algorithme sur le marché à le licencier et à le certifier, en s’assurant qu’il ne menace aucun risque éventuel, nous aurons un problème majeur, car cette clause , à lui seul, annule pratiquement la possibilité de développer des algorithmes génératifs en mode open source, de manière émergente par des communautés de créateurs. Et non, ce n’est pas une question de hippies mangeurs de fleurs : l’open source est le créateur de bon nombre des logiciels les plus réussis de l’histoire. Et dans le cas des algorithmes, une des meilleures garanties contre la manipulation.
Contrôlons bien qui fait le règlement, car par action ou omission, peuvent en fait gâcher les choses et mettre l’avenir entre les mains de quelques entreprises, au lieu de nous laisser tous créer nos propres algorithmes. Pour l’instant, espérons que quelqu’un dans l’UE aura le bon sens d’amender ce projet.
Et à l’avenir, réfléchissez très attentivement aux conséquences possibles de ce que vous réglementez. Le dilemme entre un monde raisonnablement libre et un monde dominé, comme dans les dystopies de science-fiction, par quelques entreprises, est sur la table.
***Enrique Dans est professeur d’innovation à l’Université IE.
Suivez les sujets qui vous intéressent