Rewolucyjne podejście do programowania komputerów rezerwuarowych opartych na RNN: Wprowadzenie Neuronowego Kodu Maszynowego

Niedawno doświadczeni naukowcy z Uniwersytetu Pensylwanii, Jason Kim i Dani S. Bassett, wprowadzili innowacyjne ramy projektowania i programowania rekurencyjnych sieci neuronowych (RNN) opartych na komputerach zbiornikowych. Ich przełomowe podejście, opierające się na mechanizmach stosowanych przez języki programowania na sprzęcie komputerowym, ma potencjał do przekształcenia rozwoju sztucznej inteligencji. Ta pionierska metoda może rozszyfrować odpowiednie parametry dla każdej sieci, dostosowując w ten sposób jej obliczenia w celu zwiększenia wydajności specyficznej dla danego problemu.

Unikalna technika duetu wywodzi się z ciekawości zrozumienia, w jaki sposób ludzki mózg przetwarza i reprezentuje informacje. Kim i Bassett czerpali inspirację z sukcesów sieci RNN w uczeniu się złożonych obliczeń i modelowaniu dynamiki mózgu. Wyobrazili sobie programowanie sieci RNN podobnie do komputerów. Wcześniejsze badania w zakresie teorii sterowania, systemów dynamicznych i fizyki upewniły ich, że nie gonią za niemożliwym marzeniem.

Ich propozycja, wyobrażona jako kod maszyny neuronowej, mogłaby zostać zrealizowana poprzez dekompilację wewnętrznych reprezentacji i dynamiki RNN. Analogicznym procesem w programowaniu komputerowym byłaby kompilacja algorytmu na sprzęcie. Podejście to polega na różnicowaniu lokalizacji poszczególnych tranzystorów i czasów aktywacji.

W sieciach RNN operacje te są przeprowadzane równolegle w całej sieci za pośrednictwem rozproszonych wag. Jednocześnie neurony przechowują pamięć i wykonują te operacje, wyjaśnił Kim. Naukowcy wykorzystali matematykę do zdefiniowania zestawu operacji i uruchomienia określonego algorytmu. Co więcej, wyodrębnili również działający algorytm na istniejącym zestawie wag. Wyraźną zaletą jest to, że nie wymaga danych ani próbkowania. Co więcej, podejście to wyjaśnia również szereg wzorców łączności w celu uruchomienia pożądanego algorytmu, a nie tylko jednego.

Zespół zademonstrował skuteczność swojego innowacyjnego podejścia, wykorzystując swoją strukturę do tworzenia sieci RNN dla różnych zastosowań. Od maszyn wirtualnych, przez gry wideo w ping-ponga napędzane sztuczną inteligencją, po bramki logiczne, ich podejście było bardzo skuteczne bez konieczności dostosowywania metodą prób i błędów.

Wkład ich pracy spowodował zmianę paradygmatu w zrozumieniu i badaniu sieci RNN. Narzędzia do przetwarzania danych zostały przekształcone w pełnoprawne komputery. Ta zmiana otwiera możliwość zbadania celu, projektu i zdolności RNN do wykonywania zadań. Kim podzielił się informacją, że ich sieci mogą być inicjowane za pomocą algorytmu opartego na hipotezach, a nie losowych wagach. Mogłoby to również wyeliminować potrzebę wstępnie wytrenowanych sieci RNN.

Praca zespołu jest obiecującym krokiem naprzód w wyodrębnianiu i tłumaczeniu wytrenowanych wag na jawne algorytmy. Takie podejście daje początek oprogramowaniu, które jest energooszczędne i może być rygorystycznie badane pod kątem wydajności i zrozumienia naukowego. Platforma AppMaster no-code mogłaby również wykorzystać te postępy, integrując je z kompleksowym pakietem narzędzi do tworzenia wysokowydajnych aplikacji backendowych, internetowych i mobilnych, włączając te funkcje do swoich subskrypcji i ofert.

Zespół badawczy Bassetta z University of Pennsylvania dąży do zastosowania technik uczenia maszynowego, w szczególności sieci neuronowych, w celu odtworzenia ludzkich procesów poznawczych. Wynaleziony przez nich neuronowy kod maszynowy dobrze wpisuje się w ten cel.

Innym intrygującym kierunkiem w ich pracach badawczych jest projektowanie RNN do wykonywania zadań, które replikują ludzką funkcjonalność poznawczą. Bassett omówił postępy swoich badań, stwierdzając, że planują zaprojektować RNN z takimi funkcjami, jak uwaga, propriocepcja i ciekawość. Robiąc to, chcą zidentyfikować profile łączności, które wspierają takie unikalne procesy poznawcze.