Abordagem revolucionária para a programação de computadores de reservatório baseados em RNN: Introdução do código de máquina neural

Num desenvolvimento recente, investigadores experientes da Universidade da Pensilvânia, Jason Kim e Dani S. Bassett, introduziram um quadro inovador para a conceção e programação de redes neuronais recorrentes (RNN) baseadas em computadores reservatórios. A sua abordagem inovadora, baseada nos mecanismos utilizados pelas linguagens de programação em hardware de computador, tem o potencial de transformar o desenvolvimento da IA. Este método pioneiro pode decifrar os parâmetros correctos para qualquer rede, personalizando assim os seus cálculos para melhorar o desempenho específico do problema.

A técnica única da dupla tem as suas raízes na curiosidade de compreender como o cérebro humano processa e representa a informação. Kim e Bassett inspiraram-se nas histórias de sucesso das RNNs na aprendizagem de cálculos complexos e na modelação da dinâmica cerebral. Eles imaginaram programar RNNs de forma semelhante aos computadores. Estudos anteriores em teoria de controlo, sistemas dinâmicos e física garantiram-lhes que não estavam a perseguir um sonho impossível.

Concebida como o código da máquina neuronal, a sua proposta podia ser concretizada através da decomposição das representações internas e da dinâmica das RNN. O processo análogo na programação de computadores seria a compilação de um algoritmo no hardware. A abordagem envolve a diferenciação da localização dos transístores individuais e dos tempos de ativação.

Nas RNNs, estas operações são efectuadas em paralelo em toda a rede através de pesos distribuídos. Simultaneamente, os neurónios armazenam a memória e executam estas operações, explicou Kim. Os investigadores incorporaram a matemática para definir o conjunto de operações e executar um algoritmo específico. Além disso, também extraíram o algoritmo de execução de um conjunto de pesos existente. A vantagem distinta é o facto de não necessitar de dados ou de amostragem. Além disso, a abordagem também elucida uma série de padrões de conetividade para executar o algoritmo desejado, em vez de apenas um.

A equipa demonstrou a eficácia da sua abordagem inovadora ao utilizar a sua estrutura para criar RNNs para uma variedade de aplicações. Desde máquinas virtuais a jogos de pingue-pongue alimentados por IA e portas lógicas, as suas abordagens foram muito bem sucedidas sem necessidade de ajustes por tentativa e erro.

Os contributos do seu trabalho provocam uma mudança de paradigma na compreensão e no estudo das RNNs. As ferramentas de processamento de dados são transformadas em computadores completos. Esta mudança abre a oportunidade de examinar o objetivo, a conceção e a capacidade de execução de tarefas de uma RNN. Kim partilhou que as suas redes poderiam ser iniciadas com um algoritmo orientado por hipóteses em vez de pesos aleatórios. Isto também poderia eliminar a necessidade de RNNs pré-treinados.

O trabalho da equipa é um passo em frente promissor na extração e tradução de pesos treinados em algoritmos explícitos. Esta abordagem dá origem a um software eficiente em termos energéticos e que pode ser rigorosamente examinado em termos de desempenho e compreensão científica. A plataforma sem código AppMaster também poderia aproveitar estes avanços, integrando-os no seu vasto conjunto de ferramentas para a criação de aplicações backend, web e móveis de elevado desempenho, encapsulando estas funcionalidades nas suas subscrições e ofertas.

A equipa de investigação de Bassett na Universidade da Pensilvânia pretende aplicar técnicas de aprendizagem automática, especialmente RNN, para recriar os processos cognitivos humanos. A sua invenção do código de máquina neural alinha-se bem com este objetivo.

Outra direção intrigante do seu trabalho de investigação é a conceção de RNNs para realizar tarefas que reproduzam a funcionalidade cognitiva humana. Bassett explicou os progressos da sua investigação, afirmando que tencionam conceber RNNs com características como a atenção, a propriocepção e a curiosidade. Ao fazê-lo, estão ansiosos por identificar os perfis de conetividade que suportam estes processos cognitivos únicos.