Comment construire des réseaux de neurones inspirés du cerveau et basés sur la lumière

Comment construire des réseaux de neurones inspirés du cerveau et basés sur la lumière

Crédit : Université de technologie d’Eindhoven

Les supercalculateurs sont extrêmement rapides, mais consomment également beaucoup d’énergie. L’informatique neuromorphique, qui prend notre cerveau comme modèle pour construire des ordinateurs rapides et économes en énergie, peut offrir une alternative viable et indispensable. La technologie offre de nombreuses opportunités, par exemple dans la conduite autonome, l’interprétation d’images médicales, l’intelligence artificielle de pointe ou les communications optiques longue distance. L’ingénieure en électricité Patty Stabile est une pionnière lorsqu’il s’agit d’explorer de nouveaux paradigmes informatiques inspirés du cerveau et de la biologie. “TU/e combine tout ce qu’il faut pour démontrer les possibilités de l’informatique neuromorphique basée sur les photons pour les applications d’IA.”

Patty Stabile, professeure agrégée au département de génie électrique, a été parmi les premières à entrer dans le domaine émergent de l’informatique neuromorphique photonique.

“Je travaillais sur une proposition de construction de neurones artificiels numériques photoniques lorsqu’en 2017 des chercheurs du MIT ont publié un article décrivant comment ils avaient développé une petite puce pour effectuer les mêmes opérations algébriques, mais de manière analogique. C’est alors que j’ai réalisé que les synapses basées sur la technologie analogique étaient la voie à suivre pour faire fonctionner l’intelligence artificielle, et je suis devenu accro au sujet depuis.”

Stabile se concentre principalement sur la réalisation de l’informatique neuromorphique avec la technologie photonique intégrée. “Pour ce nouveau domaine multidisciplinaire passionnant, je réutilise une grande partie des connaissances que j’ai acquises en travaillant sur la commutation optique pour les applications de centres de données.”

Des vitesses sans précédent

Dans le domaine de l’intelligence artificielle, de grandes quantités de données doivent être traitées et analysées à des vitesses sans précédent.

“Les algorithmes dont vous avez besoin pour ce faire ne peuvent pas fonctionner sur les architectures informatiques conventionnelles de von Neumann, car ils sont incapables d’exécuter la mémoire et le traitement en même temps. Ce dont vous avez besoin, ce sont des architectures parallèles qui combinent ces fonctions, pour assurer un transport de données fluide et rapide. Il existe une pléthore de solutions très prometteuses en électronique, mais le dilemme est la quantité limitée de données qui peuvent traverser les circuits. En photonique, vous pouvez transporter des quantités presque illimitées de données à la vitesse de la lumière.

Un cerveau humain contient environ 100 milliards de neurones, chacun pouvant communiquer avec des milliers d’autres neurones via des synapses qui transportent des neurotransmetteurs. “Les concepts clés ici sont les nœuds et l’interconnectivité. Et c’est assez similaire à ce que nous avons déjà dans les commutateurs photoniques intégrés.”

C’est pourquoi Stabile voit des possibilités prometteuses d’utiliser la photonique intégrée pour construire des réseaux neuromorphiques. Elle pense également que ce domaine entièrement nouveau de la photonique neuromorphique apportera de nouvelles avancées dans les architectures de commutateurs optiques.

Défis

Cependant, construire un réseau photonique neuromorphique est loin d’être anodin. “Le grand défi est de passer à un grand nombre de neurones. Cela signifie que de nouvelles questions de recherche se posent : comment pouvez-vous empiler des neurones en deux ou trois couches seulement et obtenir des résultats de calcul fiables ? Est-il possible de reconcevoir des algorithmes dans de tels une façon de simplifier l’architecture réseau requise ? »

Pour répondre à ces questions et à d’autres, Stabile collabore avec de nombreux autres collègues de disciplines complémentaires, allant de la science des matériaux et des systèmes embarqués aux mathématiques et à l’informatique.

“C’est la partie la plus amusante de mon travail, le fait que je peux couvrir toute la chaîne, du côté des matériaux et de la technologie jusqu’à l’application proprement dite en passant par la pile de couches informatiques complètes”, déclare l’ingénieur électricien.

Comment construire des réseaux de neurones inspirés du cerveau et basés sur la lumière

Crédit : Université de technologie d’Eindhoven

Applications

Stabile voit une multitude d’opportunités pour cette technologie. “Par exemple, dans la conduite autonome, où vous devez traiter et analyser une myriade de données provenant d’un grand nombre de capteurs pour permettre une prise de décision en temps réel. Ou dans la classification d’images ultra-rapide, où vous pouvez utiliser des réseaux de neurones optiques convolutifs pour soutenir les radiologues dans l’interprétation des images médicales ou permettre un traitement extrême du signal pour l’imagerie astronomique.

Mais aussi dans les communications optiques longue distance, pour soulager la consommation d’énergie du traitement numérique du signal côté réception. Ou dans l’aérospatiale, où vous pourriez utiliser des réseaux de neurones photoniques ultra-basse consommation pour pré-traiter les données acquises avant de les envoyer sur terre.”

Optimiser et simplifier

Mais ce sont tous des rêves à long terme. Pour le moment, Stabile se concentre sur l’optimisation de l’architecture réseau sur puce. Au lieu de construire des réseaux aussi complexes que possible, Stabile revient d’abord à l’essentiel.

“J’essaie de déterminer dans quelle mesure nous pouvons simplifier les réseaux requis tout en obtenant des prédictions fiables. Quelle serait l’application phare pour ces types de réseaux et à quelles exigences doivent-ils répondre ? La prochaine étape consiste à intégrer les couches physiques, systèmes de contrôle, algorithmes et lectures dans un système de travail capable d’accélérer le calcul de manière efficace.”

La mise à l’échelle de la technologie sera la prochaine phase. “Nous pouvons explorer de nombreuses possibilités pour atteindre les performances souhaitées, allant de la nano-photonique à la spintronique et à la plasmonique.”

Un neurone 3D

Dans un futur proche, Stabile espère faire la démonstration d’un neurone tridimensionnel basé sur l’intégration de l’électronique et de la photonique multifonctionnelle.

“Cela pourrait consister en une couche de phosphure d’indium pour les processus non linéaires, recouverte d’une couche de routage en nitrure de silicium pour les opérations synaptiques à ultra-faible perte. Celle-ci est ensuite chargée par une couche mémoire, basée sur des matériaux à changement de phase. une analyse approfondie des métriques de nos calculs a montré que cela peut permettre un calcul à l’échelle pétascale à des dizaines de femtojoules par opération.

Ici à Eindhoven, nous avons le bon écosystème, la bonne expertise et le bon équipement pour produire un tel neurone et étudier ses propriétés. En outre, l’Institut Eindhoven Hendrik Casimir récemment lancé stimulera davantage nos recherches.”

Banc d’essai

Outre l’optimisation de l’architecture du réseau sur puce, Stabile se concentre actuellement sur le développement d’une plate-forme expérimentale pour accélérer la technologie. Le banc d’essai peut susciter l’intérêt des entreprises pour explorer comment cette technologie pourrait aider à résoudre leurs problèmes.

Et, bien sûr, elle veut attirer de nouveaux scientifiques et étudiants dans ce domaine de recherche émergent. “La photonique neuromorphique est un domaine multidisciplinaire très excitant qui est porteur de grandes promesses pour l’avenir. À TU/e, nous sommes à l’avant-garde du sujet, travaillant sur la technologie, les réseaux, l’architecture et l’informatique. Qu’est-ce qu’il n’y a pas à aimer ?”

La recherche est publiée dans Journal IEEE de sujets sélectionnés en électronique quantique.


Une nouvelle technologie construit des circuits photoniques intégrés à très faible perte


Plus d’information:
Bin Shi et al, Deep Neural Network Through an InP SOA-Based Photonic Integrated Cross-Connect, Journal IEEE de sujets sélectionnés en électronique quantique (2019). DOI : 10.1109 / JSTQE.2019.2945548

Fourni par l’Université de technologie d’Eindhoven

Citation: How to build brain-inspired neural networks based on light (12 avril 2022) récupéré le 12 avril 2022 sur https://techxplore.com/news/2022-04-brain-inspired-neural-networks-based.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.