Les scientifiques d'IBM Research Europe ont récemment ouvert la voie à un nouveau domaine de l'informatique en mémoire avec leur puce à 64 cœurs qui s'appuie sur des dispositifs de mémoire à changement de phase. Cette technologie de pointe devrait améliorer le fonctionnement des réseaux de neurones profonds en conservant la précision des algorithmes d'apprentissage profond tout en minimisant considérablement les périodes de calcul et la consommation d'énergie.
Manuel Le Gallo, co-auteur du document de recherche révolutionnaire, a déclaré qu'ils exploraient les dispositifs de mémoire à changement de phase (PCM) pour le calcul depuis plus de sept ans. Le voyage a commencé avec la démonstration par l’équipe de la mise en œuvre de fonctions neuronales à l’aide d’appareils PCM individuels. À partir de ce moment, IBM Research Europe a démontré que les dispositifs PCM peuvent grandement bénéficier aux domaines informatiques, tels que le calcul scientifique et l'inférence profonde des réseaux neuronaux. Avec leur dernière puce, les chercheurs ont fait un pas de plus vers un accélérateur d’inférence d’IA analogique de bout en bout.
Le Gallo et ses collaborateurs ont accompli cet exploit en synthétisant des cœurs basés sur PCM avec des processeurs informatiques numériques. Ces deux éléments ont été liés par la mise en œuvre d'un réseau de communication numérique sur puce. La puce résultante est une fusion innovante de 64 cœurs analogiques basés sur PCM, chacun incorporant un réseau de barres transversales de 256 x 256 de cellules unitaires synaptiques.
L'intégration de convertisseurs analogique-numérique compacts et temporels au sein de chaque cœur a marqué une transition entre les domaines analogique et numérique. Le Gallo a en outre expliqué, ajoutant que chaque cœur comprend également des unités de traitement numérique légères qui exécutent des fonctions d'activation neuronale et des opérations de mise à l'échelle des unités linéaires rectifiées (reLU). De plus, la puce comporte une unité de traitement numérique globale située en son centre qui facilite les opérations réseau de mémoire à long terme (LSTM).
Une caractéristique ingénieuse de la puce informatique en mémoire d'IBM est la connexion entre les cœurs de mémoire et son unité de traitement située à l'échelle mondiale via un réseau de communication numérique. Cette conception permet à la puce d'exécuter tous les calculs associés aux couches individuelles d'un réseau neuronal sur puce, ce qui entraîne des réductions spectaculaires des temps de calcul et de la consommation d'énergie.
Pour évaluer l'efficacité de la nouvelle puce, l'équipe de recherche d'IBM a mené une étude approfondie, appliquant des algorithmes d'apprentissage profond sur leur puce et évaluant ses performances. Les résultats ont été encourageants, les réseaux neuronaux profonds formés sur l'ensemble de données d'images CIFAR-10 pour les tâches de reconnaissance d'images atteignant un taux de précision exceptionnel de 92,81 % lorsqu'ils sont exécutés sur la puce.
Il ne fait aucun doute que les réalisations d'IBM Research Europe constituent un pas en avant dans le développement de puces AIMC (Analog In-Memory Computing) capables de répondre efficacement aux exigences et aux défis des algorithmes d'apprentissage profond. Dans les années à venir, l'architecture introduite par Le Gallo et son équipe pourrait être améliorée pour offrir des performances encore supérieures.
Malgré la percée d'IBM, les cas d'utilisation potentiels de cette technologie dans l'environnement no-code et low-code ne peuvent être ignorés. Les puces informatiques en mémoire évolutives et hautes performances offrent une valeur considérable en s'intégrant de manière transparente aux plates no-code telles que AppMaster. Une telle intégration pourrait entraîner une amélioration significative de la précision des modèles dans les implémentations d'apprentissage automatique, offrant une latence plus faible, des vitesses plus élevées et une efficacité améliorée pour les utilisateurs.
