Nouveaux dispositifs memcapacitor pour les applications de calcul neuromorphique

Nouveaux dispositifs memcapacitor pour les applications de calcul neuromorphique

Crédit : Demasius, Kirschen & Parkin.

Pour former et mettre en œuvre des réseaux de neurones artificiels, les ingénieurs ont besoin d’appareils avancés capables d’effectuer des calculs gourmands en données. Ces dernières années, des équipes de recherche du monde entier ont essayé de créer de tels dispositifs, en utilisant différentes approches et conceptions.

Une façon possible de créer ces appareils est de réaliser du matériel spécialisé sur lequel les réseaux de neurones peuvent être directement mappés. Cela pourrait impliquer, par exemple, l’utilisation de réseaux de dispositifs memristifs, qui effectuent simultanément des calculs parallèles.

Des chercheurs de l’Institut Max Planck de physique des microstructures et de la startup SEMRON GmbH en Allemagne ont récemment conçu de nouveaux dispositifs memcapacitifs économes en énergie (c’est-à-dire des condensateurs avec une mémoire) qui pourraient être utilisés pour mettre en œuvre des algorithmes d’apprentissage automatique. Ces dispositifs, présentés dans un article publié dans Nature Électronique, fonctionnent en exploitant un principe connu sous le nom de blindage de charge.

« Nous avons remarqué qu’en plus des approches numériques conventionnelles pour l’exploitation des réseaux de neurones, il y avait principalement des approches memristives et très peu de propositions memcapacitives », a déclaré à TechXplore Kai-Uwe Demasius, l’un des chercheurs qui a mené l’étude. « De plus, nous avons remarqué que toutes les puces AI disponibles dans le commerce ne sont basées que sur des signaux numériques/mixtes et qu’il y a peu de puces avec des dispositifs de mémoire résistifs. Par conséquent, nous avons commencé à étudier une approche alternative basée sur un dispositif de mémoire capacitive.

Lors de l’examen des études précédentes, Demasius et ses collègues ont observé que tous les dispositifs memcapacitifs existants étaient difficiles à mettre à l’échelle et présentaient une faible plage dynamique. Ils ont donc entrepris de développer des dispositifs plus efficaces et plus faciles à faire évoluer. Le nouveau dispositif memcapacitif qu’ils ont créé s’inspire des synapses et des neurotransmetteurs du cerveau.

« Les dispositifs memcapacitifs sont intrinsèquement beaucoup plus économes en énergie que les dispositifs memristifs, car ils sont basés sur le champ électrique au lieu du courant et le rapport signal/bruit est meilleur pour le premier cas », a déclaré Demasius. « Notre dispositif memcapacitor est basé sur le criblage de charge, ce qui permet une bien meilleure évolutivité et une plage dynamique plus élevée par rapport aux essais antérieurs pour réaliser des dispositifs memcapacitifs. »

Le dispositif créé par Demasius et ses collègues contrôle le couplage du champ électrique entre une électrode de grille supérieure et une électrode de lecture inférieure via une autre couche, appelée couche de blindage. Cette couche de protection est à son tour ajustée par une mémoire analogique, qui peut stocker les différentes valeurs de poids des réseaux de neurones artificiels, de la même manière que les neurotransmetteurs du cerveau stockent et transmettent des informations.

Pour évaluer leurs appareils, les chercheurs en ont disposé 156 en barre transversale, puis les ont utilisés pour entraîner un réseau de neurones à distinguer trois lettres différentes de l’alphabet romain (« M », « P » et « I »). Remarquablement, leurs appareils ont atteint une efficacité énergétique de plus de 3 500 TOPS/W avec une précision de 8 bits, ce qui est 35 à 300 fois plus important que les autres approches memresistives existantes. Ces résultats mettent en évidence le potentiel des nouveaux memcondensateurs de l’équipe pour exécuter des modèles d’apprentissage en profondeur vastes et complexes avec une très faible consommation d’énergie (en régime μW).

« Nous pensons que la prochaine génération d’interfaces homme-machine dépendra fortement de la reconnaissance automatique de la parole (ASR) », a déclaré Demasius. « Cela inclut non seulement la détection des mots d’activation, mais également des algorithmes plus complexes, tels que la conversion parole-texte. Actuellement, l’ASR est principalement effectué dans le cloud, mais le traitement à la périphérie présente des avantages en termes de protection des données, entre autres. « 

Si les techniques de reconnaissance vocale s’améliorent davantage, la parole pourrait éventuellement devenir le principal moyen par lequel les utilisateurs communiquent avec les ordinateurs et autres appareils électroniques. Cependant, une telle amélioration sera difficile voire impossible à mettre en œuvre sans de grands modèles basés sur des réseaux de neurones avec des milliards de paramètres. De nouveaux dispositifs capables de mettre en œuvre efficacement ces modèles, comme celui développé par Demasius et ses collègues, pourraient ainsi jouer un rôle crucial dans la réalisation du plein potentiel de l’intelligence artificielle (IA).

« Nous avons fondé une start-up qui facilite cette technologie supérieure », a déclaré Demasius. « La vision de SEMRON est d’activer ces grands réseaux de neurones artificiels sur un très petit facteur de forme et d’alimenter ces algorithmes avec une batterie ou même une récupération d’énergie, par exemple sur des écouteurs ou tout autre appareil portable. »

SEMRON, la start-up fondée par Demasius et ses collègues, a déjà déposé plusieurs brevets liés à des modèles d’apprentissage profond pour la reconnaissance vocale. À l’avenir, l’équipe prévoit de développer davantage de modèles basés sur des réseaux neuronaux, tout en essayant également d’étendre le système à base de condensateurs qu’ils ont conçu, en augmentant à la fois son efficacité et la densité de l’appareil.

« Nous déposons constamment des brevets pour tout sujet lié à cela », a déclaré Demasius. « Notre objectif ultime est de permettre à chaque appareil de transporter de nombreuses fonctionnalités d’IA sur l’appareil et nous envisageons également de nombreuses approches en matière d’architecture de modèle de formation ou d’apprentissage en profondeur. Les réseaux de neurones à pointes et les réseaux de neurones basés sur des transformateurs ne sont que quelques exemples. Une force est que nous pouvons soutenir toutes ces approches, mais bien sûr, une recherche constante est nécessaire pour suivre tous les nouveaux concepts dans ce domaine. »


Développement de transistors à neurofibres artificielles implémentables en réseau dendritique


Plus d’information:
Kai-Uwe Demasius, Aron Kirschen et Stuart Parkin, Dispositifs memcapacitor économes en énergie pour l’informatique neuromorphique, Nature Électronique(2021). DOI : 10.1038 / s41928-021-00649-y

© 2021 Réseau Science X

Citation: Nouveaux dispositifs memcapacitor pour les applications informatiques neuromorphiques (2021, 27 octobre) récupéré le 27 octobre 2021 à partir de https://techxplore.com/news/2021-10-memcapacitor-devices-neuromorphic-applications.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation équitable à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.