Les algorithmes d’intelligence artificielle font rapidement partie de la vie quotidienne. De nombreux systèmes qui nécessitent une sécurité renforcée sont soit déjà soutenus par l’apprentissage automatique, soit le seront bientôt. Ces systèmes comprennent la reconnaissance faciale, les opérations bancaires, les applications de ciblage militaire, les robots et les véhicules autonomes, pour n’en nommer que quelques-uns.
Cela soulève une question importante : dans quelle mesure ces algorithmes d’apprentissage automatique sont-ils sécurisés contre les attaques malveillantes ?
Dans un article publié aujourd’hui dans Intelligence des machines naturellesmes collègues de l’Université de Melbourne et moi discutons d’une solution potentielle à la vulnérabilité des modèles d’apprentissage automatique.
Nous proposons que l’intégration de l’informatique quantique dans ces modèles pourrait produire de nouveaux algorithmes avec une forte résilience contre les attaques adverses.
Les dangers des attaques par manipulation de données
Les algorithmes d’apprentissage automatique peuvent être remarquablement précis et efficaces pour de nombreuses tâches. Ils sont particulièrement utiles pour classer et identifier les caractéristiques de l’image. Cependant, ils sont également très vulnérables aux attaques de manipulation de données, qui peuvent poser de graves risques de sécurité.
Les attaques par manipulation de données, qui impliquent la manipulation très subtile de données d’image, peuvent être lancées de plusieurs manières. Une attaque peut être lancée en mélangeant des données corrompues dans un ensemble de données de formation utilisé pour former un algorithme, ce qui l’amène à apprendre des choses qu’il ne devrait pas.
Les données manipulées peuvent également être injectées pendant la phase de test (une fois la formation terminée), dans les cas où le système d’IA continue de former les algorithmes sous-jacents pendant leur utilisation.
Les gens peuvent même mener de telles attaques depuis le monde physique. Quelqu’un pourrait apposer un autocollant sur un panneau d’arrêt pour tromper une voiture autonome AI en l’identifiant comme un panneau de limitation de vitesse. Ou, sur les lignes de front, les troupes peuvent porter des uniformes qui peuvent tromper les drones basés sur l’IA en les identifiant comme des éléments du paysage.
Dans tous les cas, les conséquences des attaques par manipulation de données peuvent être graves. Par exemple, si une voiture autonome utilise un algorithme d’apprentissage automatique qui a été compromis, elle peut prédire à tort qu’il n’y a pas d’humains sur la route, alors qu’il y en a.
Comment l’informatique quantique peut aider
Dans notre article, nous décrivons comment l’intégration de l’informatique quantique à l’apprentissage automatique pourrait donner naissance à des algorithmes sécurisés appelés modèles d’apprentissage automatique quantique.
Ces algorithmes sont soigneusement conçus pour exploiter des propriétés quantiques spéciales qui leur permettraient de trouver des modèles spécifiques dans les données d’image qui ne sont pas facilement manipulables. Le résultat serait des algorithmes résilients qui sont à l’abri même des attaques les plus puissantes. Ils n’auraient pas non plus besoin du coûteux « entraînement contradictoire » actuellement utilisé pour apprendre aux algorithmes à résister à de telles attaques.
Au-delà de cela, l’apprentissage automatique quantique pourrait permettre une formation algorithmique plus rapide et une plus grande précision dans les fonctionnalités d’apprentissage.
Alors, comment cela fonctionnerait-il?
Les ordinateurs classiques d’aujourd’hui fonctionnent en stockant et en traitant les informations sous forme de « bits », ou chiffres binaires, la plus petite unité de données qu’un ordinateur peut traiter. Dans les ordinateurs classiques, qui suivent les lois de la physique classique, les bits sont représentés sous forme de nombres binaires, en particulier des 0 et des 1.
L’informatique quantique, quant à elle, suit les principes utilisés en physique quantique. Les informations dans les ordinateurs quantiques sont stockées et traitées sous forme de qubits (bits quantiques) qui peuvent exister en tant que 0, 1 ou une combinaison des deux à la fois. Un système quantique qui existe dans plusieurs états à la fois est dit être dans un état de superposition. Les ordinateurs quantiques peuvent être utilisés pour concevoir des algorithmes intelligents qui exploitent cette propriété.
Cependant, bien que l’utilisation de l’informatique quantique pour sécuriser les modèles d’apprentissage automatique présente des avantages potentiels importants, cela pourrait également être une épée à double tranchant.
D’une part, les modèles d’apprentissage automatique quantique fourniront une sécurité critique pour de nombreuses applications sensibles. D’autre part, les ordinateurs quantiques pourraient être utilisés pour générer de puissantes attaques contradictoires, capables de tromper facilement même les modèles d’apprentissage automatique conventionnels de pointe.
À l’avenir, nous devrons réfléchir sérieusement aux meilleurs moyens de protéger nos systèmes ; un adversaire ayant accès aux premiers ordinateurs quantiques constituerait une menace importante pour la sécurité.
Des limites à surmonter
Les preuves actuelles suggèrent que nous sommes encore dans quelques années avant que l’apprentissage automatique quantique ne devienne une réalité, en raison des limites de la génération actuelle de processeurs quantiques.
Les ordinateurs quantiques d’aujourd’hui sont relativement petits (avec moins de 500 qubits) et leurs taux d’erreur sont élevés. Des erreurs peuvent survenir pour plusieurs raisons, notamment la fabrication imparfaite des qubits, des erreurs dans les circuits de contrôle ou la perte d’informations (appelée « décohérence quantique« ) par interaction avec l’environnement.
Pourtant, nous avons vu d’énormes progrès dans le matériel et les logiciels quantiques au cours des dernières années. Selon le matériel quantique récent feuilles de routeil est prévu que les appareils quantiques fabriqués dans les années à venir auront des centaines à des milliers de qubits.
Ces appareils devraient pouvoir exécuter de puissants modèles d’apprentissage automatique quantique pour aider à protéger un large éventail d’industries qui s’appuient sur l’apprentissage automatique et les outils d’IA.
Dans le monde entier, les gouvernements et les secteurs privés augmentent leurs investissements dans les technologies quantiques.
Ce mois-ci, le gouvernement australien a lancé le Stratégie quantique nationale, visant à développer l’industrie quantique du pays et à commercialiser les technologies quantiques. Selon le CSIRO, l’industrie quantique australienne pourrait valoir environ 2,2 milliards de dollars australiens d’ici 2030.
Cet article est republié de La conversation sous licence Creative Commons. Lis le article original.