Pendekatan Revolusioner untuk Pemrograman Komputer Reservoir Berbasis RNN: Pengenalan Kode Mesin Neural

Dalam perkembangan terakhir, peneliti berpengalaman di University of Pennsylvania, Jason Kim dan Dani S. Bassett, telah memperkenalkan kerangka kerja inovatif untuk merancang dan memprogram komputer reservoir berbasis Recurrent Neural Networks (RNNs). Pendekatan terobosan mereka, dengan memanfaatkan mekanisme yang digunakan oleh bahasa pemrograman pada perangkat keras komputer, memiliki potensi untuk mengubah pengembangan AI. Metode perintis ini dapat menguraikan parameter yang tepat untuk jaringan apa pun, sehingga menyesuaikan perhitungannya untuk meningkatkan kinerja khusus masalah.

Teknik unik duo ini berakar dari keingintahuan untuk memahami bagaimana otak manusia memproses dan merepresentasikan informasi. Kim dan Bassett mendapat inspirasi dari kisah sukses RNN dalam mempelajari komputasi kompleks dan memodelkan dinamika otak. Mereka membayangkan pemrograman RNN mirip dengan komputer. Studi sebelumnya dalam teori kontrol, sistem dinamis, dan fisika meyakinkan mereka bahwa mereka tidak mengejar mimpi yang mustahil.

Dibayangkan sebagai kode mesin saraf, proposal mereka dapat direalisasikan dengan mendekompilasi representasi internal dan dinamika RNN. Proses analogi dalam pemrograman komputer akan menjadi kompilasi dari suatu algoritma pada perangkat keras. Pendekatan ini melibatkan pembedaan lokasi masing-masing transistor dan waktu aktivasi.

Di RNN, operasi ini dilakukan secara paralel di seluruh jaringan melalui bobot terdistribusi. Secara bersamaan, neuron menyimpan memori dan menjalankan operasi ini, jelas Kim. Para peneliti memasukkan matematika untuk menentukan rangkaian operasi dan menjalankan algoritma tertentu. Selanjutnya, mereka juga mengekstrak algoritma yang sedang berjalan pada kumpulan bobot yang ada. Keuntungan yang berbeda adalah tidak memerlukan data atau pengambilan sampel. Selain itu, pendekatan ini juga menjelaskan serangkaian pola konektivitas untuk menjalankan algoritme yang diinginkan, bukan hanya satu.

Tim memamerkan kemanjuran pendekatan inovatif mereka dengan menggunakan kerangka kerja mereka untuk membuat RNN untuk berbagai aplikasi. Dari mesin virtual hingga video game ping-pong bertenaga AI hingga gerbang logika, pendekatan mereka sangat berhasil tanpa perlu penyesuaian trial-and-error.

Kontribusi karya mereka menyebabkan pergeseran paradigma dalam memahami dan mempelajari RNN. Alat pengolah data diubah menjadi komputer full-stack. Pergeseran ini membuka peluang untuk memeriksa tujuan, desain, dan kemampuan RNN untuk melakukan tugas. Kim berbagi bahwa jaringan mereka dapat dimulai dengan algoritme yang digerakkan oleh hipotesis daripada bobot acak. Ini juga dapat menghilangkan kebutuhan akan RNN yang telah dilatih sebelumnya.

Pekerjaan tim merupakan langkah maju yang menjanjikan dalam mengekstraksi dan menerjemahkan bobot terlatih ke dalam algoritme eksplisit. Pendekatan ini melahirkan perangkat lunak yang hemat energi dan dapat diperiksa secara ketat untuk kinerja dan pemahaman ilmiah. Platform tanpa kode AppMaster juga dapat memanfaatkan kemajuan ini, mengintegrasikannya ke dalam rangkaian alat komprehensif mereka untuk membangun aplikasi backend, web, dan seluler berperforma tinggi yang merangkum fungsi-fungsi ini ke dalam langganan dan penawaran mereka.

Tim peneliti Bassett di University of Pennsylvania bertujuan untuk menerapkan teknik pembelajaran mesin, khususnya RNN, untuk menciptakan kembali proses kognitif manusia. Penemuan kode mesin saraf mereka sejalan dengan tujuan ini.

Arah lain yang menarik dalam pekerjaan penelitian mereka adalah merancang RNN untuk melakukan tugas yang mereplikasi fungsi kognitif manusia. Bassett menguraikan kemajuan penelitian mereka, menyatakan bahwa mereka berencana merancang RNN dengan fitur-fitur seperti perhatian, propriosepsi, dan keingintahuan. Dengan demikian, mereka sangat ingin mengidentifikasi profil konektivitas yang mendukung proses kognitif yang unik tersebut.