Le Parlement européen a approuvé ce mercredi la première loi au monde sur l’intelligence artificielle. Cette technologie innovante est capable de faire ressortir le meilleur et le pire de l’être humain. Dans le domaine des sciences biologiques, par exemple, l’IA facilite la conception de protéines permettant de développer de nouveaux médicaments ou vaccins. Mais Cela peut également alimenter la création d’armes biologiques.
« Tout comme vous pouvez inhiber l’interaction d’une protéine avec un virus, vous pouvez également inhiber l’interaction d’une protéine vitale. C’est pourquoi ceux d’entre nous qui travaillent dans la conception de protéines nous avons toujours été conscients de ce danger« . L’orateur est Juan Cortés, directeur du Laboratoire d’analyse et d’architecture des systèmes (LAAS), appartenant au Centre national de la recherche scientifique de France.
Cortés est, avec la chercheuse de l’Université de Gérone, Sílvia Osuna, la seule scientifique espagnole à avoir signé un accord contre la création d’armes biologiques avec l’IA. Dans les deux cas, ils ont eu connaissance de cette initiative internationale grâce au biochimiste américain David Baker. « J’ai reçu votre e-mail, j’ai lu le manifeste et j’ai accepté de faire partie de la liste parce que cela me semblait super raisonnable. Nous ne sommes pas d’accord sur le fait que le potentiel élevé de l’IA dans le domaine de la conception de protéines soit appliqué pour causer des dommages », » explique Osuna. à L’ESPAGNOL.
[Así está revolucionando la IA la medicina: ya supera a los humanos analizando los ojos o el corazón]
Au moment de la publication de cet article, jusqu’à 147 scientifiques du monde entier ont déjà rejoint le un document qui, sous le nom de Responsible AI x Biodiseño (Responsible AI x Biodesign, en anglais), cherche garantie il Utilisation sûre et éthique de la conception de protéines IA. « En tant qu’individus, nous sommes opposés à l’utilisation de protéines pour créer des armes biologiques », déclare Cortés.
Quel danger peuvent-ils avoir ?
Que Cortés ait mis l’accent sur son positionnement individuel et non institutionnel n’est pas une coïncidence. Et n’importe quel pays pourrait utiliser ce type d’armes biologiques pendant une guerre. Cependant, Cortés indique une autre direction : « Je pense que les États vont dans la bonne direction et prennent en considération le danger que cela peut représenter pour la société. Mais je ne sais pas dans quelle mesure une organisation terroriste peut se livrer à ce type d’activités. raisonnement. Pour cela tu dois être très prudent« .
En ce sens, Cortés met en garde contre la contradiction que peut impliquer ce que l’on appelle la science ouverte (open science, en espagnol). Il s’agit d’un mouvement mondial, issu de la communauté scientifique, qui promeut que les connaissances scientifiques soient librement disponibles et accessibles à tous.
« Le fait que tout soit public est une très bonne chose, mais cela signifie aussi que n’importe qui peut utiliser ces connaissances », déclare Cortés. « Il existe de nombreuses molécules – telles que les neurotoxines – et avec des connaissances suffisantes en biologie structurale, vous pouvez concevoir une protéine mortelle« Il est donc possible qu’une IA ouverte au public fournisse des informations qui conduisent des personnes inexpérimentées au développement d’armes biologiques.
Désormais, aucune protéine conçue par ordinateur ne peut causer de réels dommages à moins qu’elle ne soit produite physiquement ; ce qui nécessiterait un laboratoire coûteux comprenant l’équipement pour la fabrication de l’ADN. Néanmoins, les signataires de l’initiative susmentionnée s’engagent à améliorer le processus de contrôle, dans le but de détecter les molécules dangereuses avant de pouvoir les fabriquer.
Et, comme le souligne Cortés, une première étape est la conception de l’arme biologique, et une seconde est de voir comment l’utiliser : « Pour que la conception d’une protéine fonctionne dans un organisme vivant, elle doit surmonter une série de » Bien que le concevoir ne soit plus une première étape. » « Aujourd’hui, développer des armes biologiques avec l’IA nécessite des connaissances spécialisées, mais il serait bien d’encadrer leur utilisation afin qu’elle n’implique pas un risque à court terme« , ajoute Osuna.
Peut être utilisé pour tuer
L’accord signé par plus d’une centaine de scientifiques du monde entier est la première initiative publique incluant le danger que représente la création d’armes biologiques. Ce n’est cependant pas la première fois que ce danger est publiquement reconnu. À l’été 2023, le PDG d’Anthropic (entreprise spécialisée dans l’IA), Dario Amodei, assurait dans un public au Congrès des États-Unis que cette technologie allait pouvoir être utilisée créer des virus dangereux et d’autres armes biologiques en seulement deux ans.
Cortés préfère ne rien prédire et minimise même ces affirmations : « Cela est déjà connu, ceux d’entre nous qui travaillent à la conception de protéines le savent depuis longtemps. Quand on comprend le fonctionnement d’une toxine, on comprend immédiatement que la conception des protéines peut être utilisée pour tuer« .
Dans ce cas, ce ne serait pas la première fois que des armes biologiques seraient utilisées à cette fin. Plusieurs pays ont en effet tenté de utiliser ce type d’armement à des fins de guerre. L’un des rares cas bien documentés est celui de l’Afrique du Sud pendant la période de l’apartheid, ou celui des militaires de Rhodésie (aujourd’hui Zimbabwe) contre la minorité blanche qui luttait pour maintenir le contrôle du pays.
Pourtant, l’histoire des armes biologiques est pleine de grandes inconnues, comme l’explique cet article d’EL ESPAÑOL. Dans le cas des armes biologiques créées avec l’IA, Cortés soupçonne qu’elles pourraient devenir des armes plus efficaces, plus spécifiques et plus meurtrières, grâce aux progrès générés par la technologie elle-même.
Mais aussi pour guérir
À ce stade, il peut sembler que l’inclusion de l’IA dans la conception des protéines ne comporte que des aspects négatifs. Rien ne pourrait être plus éloigné de la vérité. Comme le disent les auteurs de ce décalogue, présente bien plus d’avantages que d’inconvénients. « Dans quelques années Cela nous a beaucoup aidé à avancer« , estime Osuna, « des problèmes qui nécessitaient auparavant une année de recherche peuvent désormais être résolus en quelques minutes. »
La capacité d’analyse avancée de l’IA nous permet de connaître la structure de la protéine avec une plus grande précision. Cela se traduit par une tentative d’accélérer le développement de nouveaux médicaments et vaccins qui, sans l’IA, prendraient des années à être découverts. Récemment, nous avons su la nouvelle qu’un groupe de chercheurs espagnols concevra des protéines avec l’IA pour produire des particules qui sera utilisé pour traiter plusieurs cancers et maladies rares.
[Curar males hereditarios o crear vacunas ‘a la carta’: la nueva tecnología de IA que ya se aplica en España]
Et la responsabilité ultime incombe aux chercheurs eux-mêmes : « Sachant qu’on peut en profiter pour faire le bien ou faire délibérément le mal, nous nous abstiendrons de mener des enquêtes susceptibles de causer des dommages ou autoriser une utilisation abusive », lit-on Le document.