Approccio rivoluzionario alla programmazione di computer a serbatoio basati su RNN: Introduzione del codice macchina neurale

In un recente sviluppo, gli esperti ricercatori dell'Università della Pennsylvania, Jason Kim e Dani S. Bassett, hanno introdotto un quadro innovativo per la progettazione e la programmazione di reti neurali ricorrenti (RNN) basate su computer serbatoio. Il loro approccio innovativo, che si basa sui meccanismi utilizzati dai linguaggi di programmazione sull'hardware dei computer, ha il potenziale per trasformare lo sviluppo dell'intelligenza artificiale. Questo metodo pionieristico è in grado di decifrare i parametri giusti per qualsiasi rete, personalizzando così i suoi calcoli per migliorare le prestazioni specifiche del problema.

La tecnica unica del duo trae le sue radici dalla curiosità di capire come il cervello umano elabora e rappresenta le informazioni. Kim e Bassett hanno tratto ispirazione dai successi delle RNN nell'apprendimento di calcoli complessi e nella modellazione delle dinamiche cerebrali. Hanno immaginato di programmare le RNN in modo simile ai computer. Studi precedenti sulla teoria del controllo, sui sistemi dinamici e sulla fisica li hanno rassicurati sul fatto che non stavano inseguendo un sogno impossibile.

Immaginata come il codice della macchina neurale, la loro proposta poteva essere realizzata decompilando le rappresentazioni interne e le dinamiche delle RNN. Il processo analogo nella programmazione dei computer sarebbe la compilazione di un algoritmo sull'hardware. L'approccio prevede la differenziazione della posizione e dei tempi di attivazione dei singoli transistor.

Nelle RNN, queste operazioni sono condotte in parallelo in tutta la rete attraverso pesi distribuiti. Contemporaneamente, i neuroni immagazzinano la memoria ed eseguono queste operazioni, ha spiegato Kim. I ricercatori hanno incorporato la matematica per definire l'insieme delle operazioni ed eseguire un algoritmo specifico. Inoltre, hanno anche estratto l'algoritmo in esecuzione su un set di pesi esistente. Il vantaggio è che non ha bisogno di dati o di campionamenti. Inoltre, l'approccio consente di individuare una serie di modelli di connettività per eseguire l'algoritmo desiderato, anziché uno solo.

Il team ha dimostrato l'efficacia del suo approccio innovativo utilizzando il suo framework per creare RNN per una varietà di applicazioni. Dalle macchine virtuali ai videogiochi di ping-pong alimentati dall'intelligenza artificiale, fino alle porte logiche, i loro approcci hanno avuto un grande successo senza la necessità di aggiustamenti per tentativi.

I contributi del loro lavoro provocano un cambiamento di paradigma nella comprensione e nello studio delle RNN. Gli strumenti di elaborazione dei dati si trasformano in computer full-stack. Questo cambiamento apre l'opportunità di esaminare lo scopo, la progettazione e la capacità di eseguire compiti di una RNN. Kim ha condiviso l'idea che le loro reti potrebbero essere avviate con un algoritmo basato su ipotesi piuttosto che su pesi casuali. Questo potrebbe anche eliminare la necessità di RNN pre-addestrate.

Il lavoro del team è un promettente passo avanti nell'estrazione e nella traduzione dei pesi addestrati in algoritmi espliciti. Questo approccio dà vita a un software efficiente dal punto di vista energetico, che potrebbe essere esaminato rigorosamente in termini di prestazioni e comprensione scientifica. Anche la piattaforma no-code AppMaster potrebbe sfruttare questi progressi, integrandoli nella sua suite completa di strumenti per la costruzione di applicazioni backend, web e mobili ad alte prestazioni, incapsulando queste funzionalità nei suoi abbonamenti e nelle sue offerte.

Il team di ricerca di Bassett dell'Università della Pennsylvania mira ad applicare le tecniche di apprendimento automatico, in particolare le RNN, per ricreare i processi cognitivi umani. La loro invenzione del codice macchina neurale si allinea bene con questo obiettivo.

Un'altra direzione intrigante del loro lavoro di ricerca è la progettazione di RNN per eseguire compiti che replicano le funzionalità cognitive umane. Bassett ha illustrato i progressi della loro ricerca, affermando che intendono progettare RNN con caratteristiche quali l'attenzione, la propriocezione e la curiosità. Nel farlo, sono desiderosi di identificare i profili di connettività che supportano questi processi cognitivi unici.