Pour la première fois, il a été démontré qu’un réseau neuronal physique apprend et se souvient « à la volée », d’une manière inspirée et similaire au fonctionnement des neurones du cerveau.
Le résultat ouvre la voie au développement d’une intelligence machine efficace et à faible consommation d’énergie pour des tâches d’apprentissage et de mémoire plus complexes et réelles.
Publié aujourd’hui dans Communications naturellesla recherche est une collaboration entre des scientifiques de l’Université de Sydney et de l’Université de Californie à Los Angeles.
Auteur principal Ruomin Zhu, titulaire d’un doctorat. étudiant du Nano Institute et de l’École de physique de l’Université de Sydney, a déclaré : « Les résultats démontrent comment les fonctions d’apprentissage et de mémoire inspirées par le cerveau utilisant des réseaux de nanofils peuvent être exploitées pour traiter des données dynamiques en continu.
Les réseaux de nanofils sont constitués de minuscules fils qui ne mesurent que des milliardièmes de mètres de diamètre. Les fils s’organisent selon des motifs qui rappellent le jeu pour enfants « Pick Up Sticks », imitant les réseaux neuronaux, comme ceux de notre cerveau. Ces réseaux peuvent être utilisés pour effectuer des tâches spécifiques de traitement de l’information.
Les tâches de mémoire et d’apprentissage sont réalisées à l’aide d’algorithmes simples qui répondent aux changements de résistance électronique aux jonctions où les nanofils se chevauchent. Connue sous le nom de « commutation de mémoire résistive », cette fonction est créée lorsque les entrées électriques rencontrent des changements de conductivité, semblables à ce qui se produit avec les synapses de notre cerveau.
Dans cette étude, les chercheurs ont utilisé le réseau pour reconnaître et mémoriser des séquences d’impulsions électriques correspondant à des images, inspirées de la manière dont le cerveau humain traite l’information.
Le professeur Zdenka Kuncic, chercheur superviseur, a déclaré que la tâche de mémoire était similaire à la mémorisation d’un numéro de téléphone. Le réseau a également été utilisé pour effectuer une tâche de reconnaissance d’images de référence, en accédant aux images de la base de données MNIST de chiffres manuscrits, une collection de 70 000 petites images en niveaux de gris utilisées dans l’apprentissage automatique.
« Nos recherches précédentes ont établi la capacité des réseaux de nanofils à mémoriser des tâches simples. Ces travaux ont étendu ces résultats en montrant que des tâches peuvent être effectuées à l’aide de données dynamiques accessibles en ligne », a-t-elle déclaré.
« Il s’agit d’un pas en avant important, car il est difficile d’obtenir une capacité d’apprentissage en ligne lorsqu’il s’agit de traiter de grandes quantités de données qui peuvent changer en permanence. Une approche standard consisterait à stocker les données en mémoire, puis à entraîner un modèle d’apprentissage automatique à l’aide de ces informations stockées. Mais cela consommerait trop d’énergie pour une application généralisée. »
« Notre nouvelle approche permet au réseau neuronal de nanofils d’apprendre et de se souvenir « à la volée », échantillon par échantillon, en extrayant des données en ligne, évitant ainsi une consommation lourde de mémoire et d’énergie. »
M. Zhu a déclaré qu’il y avait d’autres avantages à traiter des informations en ligne.
« Si les données sont diffusées en continu, comme par exemple à partir d’un capteur, l’apprentissage automatique qui s’appuie sur des réseaux de neurones artificiels devrait avoir la capacité de s’adapter en temps réel, ce pour quoi ils ne sont pas optimisés actuellement. » il a dit.
Dans cette étude, le réseau neuronal de nanofils a affiché une capacité d’apprentissage automatique de référence, obtenant un score de 93,4 % dans l’identification correcte des images de test. La tâche de mémoire impliquait le rappel de séquences comportant jusqu’à huit chiffres. Pour les deux tâches, les données ont été diffusées sur le réseau afin de démontrer sa capacité d’apprentissage en ligne et de montrer comment la mémoire améliore cet apprentissage.
Plus d’information:
Apprentissage dynamique en ligne et mémoire de séquences avec réseaux de nanofils neuromorphiques, Communications naturelles (2023). DOI : 10.1038/s41467-023-42470-5