Революционный подход к программированию резервуарных компьютеров на основе RNN: Введение нейромашинного кода

Недавно опытные исследователи из Университета Пенсильвании Джейсон Ким и Дэни С. Бассетт представили инновационную основу для проектирования и программирования рекуррентных нейронных сетей (РНС) на базе резервуарных компьютеров. Их новаторский подход, основанный на механизмах, используемых языками программирования в компьютерном оборудовании, способен изменить развитие ИИ. Этот новаторский метод позволяет расшифровать нужные параметры для любой сети, тем самым настраивая ее вычисления для повышения производительности в зависимости от конкретной задачи.

Уникальная методика дуэта берет свое начало в любопытстве понять, как человеческий мозг обрабатывает и представляет информацию. Ким и Бассетт черпали вдохновение в историях успеха РНС в обучении сложным вычислениям и моделировании динамики мозга. Они представляли себе программирование РНС аналогично программированию компьютеров. Предыдущие исследования в области теории управления, динамических систем и физики убедили их в том, что они не гонятся за несбыточной мечтой.

Предложенный ими код нейронной машины можно было реализовать путем декомпиляции внутренних представлений и динамики РНС. Аналогичным процессом в компьютерном программировании была бы компиляция алгоритма на аппаратном обеспечении. Этот подход предполагает дифференциацию расположения отдельных транзисторов и времени их активации.

В РНС эти операции выполняются параллельно по всей сети с помощью распределенных весов. Одновременно нейроны хранят память и выполняют эти операции, пояснил Ким. Исследователи использовали математику, чтобы определить набор операций и запустить конкретный алгоритм. Кроме того, они также извлекли работающий алгоритм на существующий набор весов. Отличительным преимуществом является то, что для этого не нужны данные или выборка. Кроме того, этот подход позволяет определить серию моделей связности для запуска нужного алгоритма, а не только одну.

Команда продемонстрировала эффективность своего инновационного подхода, использовав свою структуру для создания RNNs для различных приложений. От виртуальных машин до видеоигр в пинг-понг на базе ИИ и логических ворот - их подходы оказались весьма успешными без необходимости корректировки методом проб и ошибок.

Вклад их работы вызвал смену парадигмы в понимании и изучении РНС. Инструменты обработки данных превращаются в полнофункциональные компьютеры. Этот сдвиг открывает возможность изучить назначение, дизайн и способность RNN выполнять задачи. Ким поделилась, что их сети могут быть запущены с помощью алгоритма, основанного на гипотезе, а не на случайных весах. Это также может устранить необходимость в предварительно обученных РНС.

Работа команды является многообещающим шагом вперед в извлечении и переводе обученных весов в явные алгоритмы. Такой подход приводит к созданию энергоэффективного программного обеспечения, которое может быть тщательно изучено на предмет производительности и научного понимания. Платформа AppMaster no-code также может использовать эти достижения, интегрируя их в свой комплексный набор инструментов для создания высокопроизводительных бэкендов, веб- и мобильных приложений, включив эти функциональные возможности в свои подписки и предложения.

Исследовательская группа Бассета в Университете Пенсильвании стремится применить методы машинного обучения, особенно РНС, для воссоздания когнитивных процессов человека. Изобретение ими нейронного машинного кода хорошо согласуется с этой целью.

Еще одним интригующим направлением их исследовательской работы является разработка RNN для выполнения задач, повторяющих когнитивные функции человека. Бассетт подробно рассказал о ходе исследований, заявив, что они планируют разработать РНК с такими функциями, как внимание, проприоцепция и любопытство. При этом они стремятся определить профили связи, которые поддерживают такие уникальные когнитивные процессы.