Le réalisateur canadien James Cameron a déclaré que son blockbuster de science-fiction de 1984 « The Terminator » aurait dû servir d’avertissement sur les dangers de l’IA, et que la « militarisation » de la technologie émergente pourrait avoir des conséquences désastreuses.
S’adressant à CTV News pour un entretien Mardi, on a demandé au réalisateur primé s’il pensait que l’intelligence artificielle pourrait un jour entraîner « l’extinction de l’humanité », un peur soulevée même par certains leaders de l’industrie.
« Je partage absolument leur inquiétude. Je vous ai prévenus les gars en 1984 et vous n’avez pas écouté », a-t-il dit, faisant référence à son film « The Terminator », qui tourne autour d’un assassin cybernétique créé par un supercalculateur intelligent connu sous le nom de Skynet.
Cameron a poursuivi en avertissant que « la militarisation de l’IA est le plus grand danger », ajoutant « Je pense que nous allons entrer dans l’équivalent d’une course aux armements nucléaires avec l’IA. Et si nous ne le construisons pas, les autres gars vont certainement le construire, et alors ça va s’aggraver.
Dans le cas où l’intelligence artificielle serait déployée sur le champ de bataille, les ordinateurs pourraient se déplacer si rapidement que « les humains ne peuvent plus intervenir », a déclaré le directeur, affirmant qu’une telle technologie ne laisserait pas de temps pour des pourparlers de paix ou un armistice.
«Lorsque vous avez affaire à un potentiel d’escalade vers une guerre nucléaire, la désescalade est le nom du jeu. Avoir cette pause, ce temps mort – mais le feront-ils ? Les IA ne le feront pas », a poursuivi Cameron.
Le célèbre cinéaste a publié avertissements similaires dans le passé, disant que même si l’IA « peut être assez géniale », elle pourrait aussi « littéralement être la fin du monde ». Il est même allé jusqu’à dire qu' »une IA aurait pu conquérir le monde et déjà le manipuler, mais nous ne savons tout simplement pas », spéculant que les ordinateurs sensibles « auraient un contrôle total sur tous les médias et tout ».
Bien que la technologie n’ait pas encore atteint la domination mondiale, certains experts de premier plan ont également sonné l’alarme à propos de l’intelligence artificielle. Plus tôt cette année, des géants de l’IA, dont OpenAI et DeepMind de Google, ont rejoint des universitaires, des législateurs et des entrepreneurs pour publier un déclaration appelant à atténuer « le risque d’extinction de l’IA », affirmant que cela devrait être « une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire ».
Un similaire lettre ouverte publié en mars dernier a appelé à une pause de six mois dans la formation de puissants systèmes d’IA, affirmant qu’ils « ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables ». Signée par plus de 1 000 experts et dirigeants – dont Elon Musk et le co-fondateur d’Apple Steve Wozniak – la déclaration avertit que l’IA pourrait poser « des risques profonds pour la société et l’humanité ».