Une technique pour augmenter la durée de vie utile des systèmes neuromorphiques

eSpine: une technique pour augmenter la durée de vie utile des systèmes neuromorphiques

Crédit: Titirsha et al.

Ces dernières années, les ingénieurs du monde entier ont tenté de développer des systèmes informatiques neuromorphiques de plus en plus avancés et efficaces, des dispositifs qui imitent la structure neuro-biologique du système nerveux central. En raison de leurs architectures bio-inspirées, ces systèmes pourraient être particulièrement souhaitables pour exécuter des algorithmes d’apprentissage automatique (IA) et d’autres outils d’intelligence artificielle (IA).

Malheureusement, les cellules de mémoire qui implémentent des connexions de type synapse dans ces systèmes ont une endurance d’écriture limitée. Cela signifie essentiellement qu’ils peuvent être programmés de manière fiable un nombre limité de fois avant de commencer à présenter des signes de «vieillissement» et de détérioration. Cela peut être problématique, car les cellules de mémoire «vieillies» conduisent souvent à des erreurs fonctionnelles dans les programmes exécutés par des dispositifs neuromorphiques.

Pour surmonter ce défi, des chercheurs de l’Université Drexel et de l’Université de Californie à Irvine ont créé e-Spine, une technique qui pourrait augmenter la durée de vie des systèmes neuromorphiques. Cette technique, présentée dans un article pré-publié sur arXiv, garantit que les synapses artificielles avec des activations plus élevées sont mises en œuvre sur des memristors avec une endurance plus élevée.

« Grâce à des simulations de circuits à des nœuds technologiques submicroniques, nous montrons que les cellules de mémoire dans un système neuromorphique peuvent avoir des différences significatives d’endurance en écriture », a déclaré Anup Das, l’un des chercheurs qui ont mené l’étude, à TechXplore. « Nous appelons les cellules qui ont des cellules fortes d’endurance. Les différences d’endurance sont causées par la variation du courant se propageant à travers différentes cellules d’un système. »

Essentiellement, si les cellules que Das et ses collègues qualifient de «plus faibles» sont fortement utilisées (c’est-à-dire lorsque les synapses cartographiées sur ces cellules sont activées trop fréquemment), elles vieilliront plus rapidement. Cela peut avoir un impact négatif sur la convivialité globale d’un système, provoquant davantage d’erreurs.

L’objectif principal de l’étude menée par les chercheurs était d’analyser la charge de travail d’un algorithme ML / AI et de cartographier ses synapses avec des cellules mémoire au sein du système neuromorphique qui l’exécutait. En fin de compte, ils voulaient s’assurer que les synapses présentant une activation plus élevée soient mappées vers des cellules plus fortes.

Pour atteindre leur objectif, Das et ses collègues ont développé une technique appelée eSpine, qui mappe automatiquement les éléments synaptiques des réseaux de neurones artificiels aux cellules mémoire d’un système neuromorphique. Cela peut finalement équilibrer l’endurance des cellules mémoire dans les systèmes informatiques neuromorphiques et augmenter leur durée de vie utile.

« Le problème de trouver une solution de cartographie pour la charge de travail ML / AI sur un système neuromorphique est un problème d’optimisation combinatoire, qui est NP-complet qui ne peut pas être résolu en temps polynomial », a déclaré Das. « Nous avons utilisé l’optimisation des essaims de particules (PSO), une méthode de calcul qui trouve une solution à un problème d’optimisation en essayant de manière itérative d’améliorer une solution candidate par rapport à une mesure de qualité donnée. »

Dans le contexte de l’étude des chercheurs, le terme «qualité» fait référence à la durée de vie d’un système neuromorphique, qui est mesurée en enregistrant l’activation de ses cellules les plus faibles. Les techniques PSO sont inspirées du comportement des essaims chez les animaux, comme les comportements de troupeau et de scolarisation des oiseaux.

« Pour chaque solution générée par l’algorithme PSO, eSpine mappe les synapses aux cellules de mémoire en analysant les activations synaptiques au sein de chaque charge de travail », a expliqué Das. « Les synapses avec des activations plus élevées sont mappées vers des cellules plus fortes et vice versa. Finalement, lorsque PSO trouve la meilleure solution, l’endurance moyenne des cellules les plus faibles est considérablement améliorée. »

La technique mise au point par Das et ses collègues atténue le goulot d’étranglement d’endurance des cellules mémoire d’un système neuromorphique uniquement du point de vue de la cartographie logicielle. Ce processus peut être considéré comme équivalent aux opérations d’équilibrage de charge effectuées par les systèmes d’exploitation (OS) dans les ordinateurs conventionnels.

Contrairement à d’autres techniques pour améliorer la durée de vie utile des systèmes neuromorphiques, eSpine ne nécessite aucune action ou implication de la part des développeurs. De plus, cela n’affecte ni ne modifie le matériel et l’interface du système.

Les chercheurs ont évalué la technique qu’ils ont développée dans une série d’expériences. De manière remarquable, ils ont constaté que cela conduisait à des durées de vie utilisables 3,5 fois plus élevées que celles obtenues en utilisant d’autres méthodes de pointe pour prolonger la durée de vie d’un système neuromorphique.

«La principale conclusion de notre article est que l’endurance des cellules de mémoire varie considérablement au sein d’un système neuromorphique et qu’une telle variation est causée par la variation du courant se propageant à travers les cellules de mémoire», a déclaré Das. « La variation d’endurance devient encore plus critique à une tension et une température élevées. »

En règle générale, si un système neuromorphique est conçu pour fonctionner pendant environ 10 ans, les techniques de cartographie arbitraire des synapses peuvent réduire sa durée de vie utile à deux ans. En mappant les synapses avec des activations plus élevées vers des cellules de mémoire plus fortes, eSpine pourrait augmenter la durée de vie utile du même système à sept ans.

À l’avenir, la technique mise au point par cette équipe de chercheurs pourrait ainsi s’avérer très précieuse, car elle pourrait aider à prolonger la durée de vie et à améliorer la durabilité de divers dispositifs neuromorphiques. Dans leurs prochaines études, Das et ses collègues espèrent développer davantage eSpine pour aborder d’autres limitations des systèmes neuromorphiques.

« Les cellules de mémoire plus fortes sont également plus lentes à accéder, ce qui signifie que l’activation fréquente de ces cellules entraînerait des performances plus lentes », a déclaré Das. «À l’avenir, nous prévoyons d’étendre cette recherche afin de prendre également en compte le ralentissement des applications.»


Calcul neuromorphique avec memristors


Plus d’information:
Cartographie sensible à l’endurance des réseaux de neurones de pointe vers du matériel neuromorphique. arXiv: 2103.05707 [cs.NE]. arxiv.org/abs/2103.05707

© Réseau Science X 2021

Citation: eSpine: Une technique pour augmenter la durée de vie utilisable des systèmes neuromorphiques (2021, 13 avril) récupéré le 14 avril 2021 sur https://techxplore.com/news/2021-04-espine-technique-usable-lifetime-neuromorphic.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation équitable à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.