Die Wissenschaftler von IBM Research Europe haben kürzlich mit ihrem 64-Core-Chip, der auf Phasenwechsel-Speichergeräten basiert, einen neuen Bereich des In-Memory-Computing eröffnet. Diese Spitzentechnologie soll die Funktionsweise tiefer neuronaler Netze verbessern, indem sie die Genauigkeit von Deep-Learning-Algorithmen beibehält und gleichzeitig die Rechenzeiten und den Stromverbrauch erheblich minimiert.
Manuel Le Gallo, der Co-Autor der bahnbrechenden Forschungsarbeit, teilte mit, dass sie seit über sieben Jahren Phasenwechselspeicher (PCM) für Berechnungen erforscht hätten. Die Reise begann damit, dass das Team die Implementierung neuronaler Funktionen mithilfe einzelner PCM-Geräte demonstrierte. Von diesem Zeitpunkt an hat IBM Research Europe gezeigt, dass PCM-Geräte große Vorteile für Computerbereiche wie wissenschaftliches Rechnen und tiefe neuronale Netzinferenz bieten können. Mit ihrem neuesten Chip sind die Forscher einem durchgängigen analogen KI-Inferenzbeschleuniger einen Schritt näher gekommen.
Le Gallo und seine Mitarbeiter haben dieses Kunststück geschafft, indem sie PCM-basierte Kerne mit digitalen Computerprozessoren synthetisierten. Diese beiden Elemente wurden durch die Implementierung eines digitalen Kommunikationsnetzwerks auf dem Chip verbunden. Der resultierende Chip ist eine innovative Kombination aus 64 analogen PCM-basierten Kernen, von denen jeder ein 256 x 256 großes Crossbar-Array synaptischer Elementarzellen enthält.
Die Integration kompakter, zeitbasierter Analog-Digital-Wandler in jeden Kern markierte einen Übergang zwischen analogen und digitalen Bereichen. Le Gallo erklärte weiter und fügte hinzu, dass jeder Kern auch leichte digitale Verarbeitungseinheiten umfasst, die neuronale Aktivierungsfunktionen und Skalierungsoperationen der gleichgerichteten linearen Einheit (reLU) ausführen. Darüber hinaus verfügt der Chip über eine globale digitale Verarbeitungseinheit in seiner Mitte, die den Netzwerkbetrieb im Langzeit-Kurzzeitspeicher (LSTM) erleichtert.
Ein geniales Merkmal des In-Memory-Computing-Chips von IBM ist die Verbindung zwischen Speicherkernen und seiner weltweit verteilten Verarbeitungseinheit über ein digitales Kommunikationsnetzwerk. Dieses Design ermöglicht es dem Chip, alle mit den einzelnen Schichten eines neuronalen Netzwerks verbundenen Berechnungen auf dem Chip auszuführen, was zu einer drastischen Reduzierung der Rechenzeiten und des Stromverbrauchs führt.
Um die Wirksamkeit des neuen Chips zu bewerten, führte das IBM-Forschungsteam eine umfassende Studie durch, indem es Deep-Learning-Algorithmen auf seinen Chip anwendete und seine Leistung bewertete. Die Ergebnisse waren ermutigend: Tiefe neuronale Netze, die auf dem CIFAR-10-Bilddatensatz für Bilderkennungsaufgaben trainiert wurden, erreichten beim Betrieb auf dem Chip eine hervorragende Genauigkeitsrate von 92,81 %.
Zweifellos stellen die Erfolge von IBM Research Europe einen Fortschritt in der Entwicklung von Analog In-Memory Computing (AIMC)-Chips dar, die den Anforderungen und Herausforderungen von Deep-Learning-Algorithmen effizient gerecht werden können. In den kommenden Jahren könnte die von Le Gallo und seinem Team eingeführte Architektur verbessert werden, um noch bessere Leistungen zu erzielen.
Trotz des Durchbruchs von IBM können die potenziellen Anwendungsfälle dieser Technologie im no-code und low-code Umfeld nicht ignoriert werden. Die skalierbaren und leistungsstarken In-Memory-Computing-Chips bieten einen erheblichen Mehrwert durch die nahtlose Integration in no-code Plattformen wie AppMaster. Eine solche Integration könnte zu einer erheblichen Verbesserung der Modellgenauigkeit bei Implementierungen maschinellen Lernens führen und den Benutzern geringere Latenzzeiten, höhere Geschwindigkeiten und eine verbesserte Effizienz bieten.
