Ученые IBM Research Europe недавно открыли новую область вычислений в памяти с помощью своего 64-ядерного чипа, основанного на устройствах памяти с фазовым переходом. Предполагается, что эта передовая технология улучшит работу глубоких нейронных сетей, сохраняя точность алгоритмов глубокого обучения и одновременно значительно минимизируя периоды вычислений и энергопотребление.
Мануэль Ле Галло, соавтор новаторской исследовательской работы, рассказал, что они изучали устройства памяти с фазовым изменением (PCM) для вычислений более семи лет. Путешествие началось с того, что команда продемонстрировала реализацию функций нейронов с помощью отдельных устройств PCM. С этого момента IBM Research Europe продемонстрировала, что устройства PCM могут принести большую пользу в таких областях вычислений, как научные вычисления и глубокие нейронные сети. С помощью своего последнего чипа исследователи продвинулись на шаг ближе к созданию комплексного аналогового ускорителя вывода ИИ.
Ле Галло и его коллеги совершили этот подвиг, синтезировав ядра на основе PCM с цифровыми вычислительными процессорами. Эти два элемента были связаны посредством реализации встроенной цифровой сети связи. Полученный чип представляет собой инновационное объединение 64 аналоговых ядер на базе PCM, каждое из которых включает в себя массив перекрестных синаптических элементарных ячеек размером 256х256 пикселей.
Интеграция компактных аналого-цифровых преобразователей с синхронизацией по времени в каждом ядре ознаменовала переход между аналоговой и цифровой сферой. Далее Ле Галло пояснил, добавив, что каждое ядро также включает в себя легкие цифровые процессоры, которые выполняют функции активации нейронов с выпрямленными линейными единицами (reLU) и операции масштабирования. Кроме того, чип оснащен глобальным цифровым процессором, расположенным в его центре, который облегчает работу сети с долговременной памятью (LSTM).
Гениальной особенностью вычислительного чипа IBM в памяти является соединение между ядрами памяти и ее глобально расположенным процессором через цифровую сеть связи. Такая конструкция позволяет чипу выполнять все вычисления, связанные с отдельными уровнями нейронной сети на кристалле, что приводит к значительному сокращению времени вычислений и энергопотребления.
Чтобы оценить эффективность нового чипа, исследовательская группа IBM провела комплексное исследование, применив к своему чипу алгоритмы глубокого обучения и оценив его производительность. Результаты были обнадеживающими: глубокие нейронные сети, обученные на наборе данных изображений CIFAR-10 для задач распознавания изображений, достигли выдающейся точности 92,81% при запуске на чипе.
Несомненно, достижения IBM Research Europe — это шаг вперед в разработке микросхем аналоговых вычислений в памяти (AIMC), которые могут эффективно удовлетворять требованиям и решать задачи алгоритмов глубокого обучения. В ближайшие годы архитектура, представленная Ле Галло и его командой, может быть улучшена, чтобы обеспечить еще более высокую производительность.
Несмотря на прорыв IBM, потенциальные варианты использования этой технологии в среде no-code и low-code нельзя игнорировать. Масштабируемые и высокопроизводительные микросхемы вычислений в памяти обеспечивают значительную ценность благодаря простой интеграции с платформами no-code такими как AppMaster. Такая интеграция может привести к значительному повышению точности моделей в реализациях машинного обучения, предлагая пользователям меньшую задержку, более высокие скорости и повышенную эффективность.
