Phương pháp tiếp cận mang tính cách mạng để lập trình máy tính dự trữ dựa trên RNN: Giới thiệu mã máy thần kinh

Trong một sự phát triển gần đây, các nhà nghiên cứu dày dạn kinh nghiệm tại Đại học Pennsylvania, Jason Kim và Dani S. Bassett, đã giới thiệu một khuôn khổ sáng tạo để thiết kế và lập trình các máy tính chứa dữ liệu dựa trên Mạng thần kinh tái phát (RNN). Cách tiếp cận mang tính đột phá của họ, dựa trên các cơ chế được sử dụng bởi các ngôn ngữ lập trình trên phần cứng máy tính, có khả năng biến đổi sự phát triển của AI. Phương pháp tiên phong này có thể giải mã các tham số phù hợp cho bất kỳ mạng nào, từ đó tùy chỉnh các tính toán của mạng đó để nâng cao hiệu suất cho từng vấn đề cụ thể.

Kỹ thuật độc đáo của bộ đôi bắt nguồn từ sự tò mò muốn hiểu cách bộ não con người xử lý và trình bày thông tin. Kim và Bassett đã lấy cảm hứng từ những câu chuyện thành công của RNN trong việc học các phép tính phức tạp và lập mô hình động lực học của não bộ. Họ đã hình dung việc lập trình RNN tương tự như máy tính. Các nghiên cứu trước đây về lý thuyết điều khiển, hệ thống động lực và vật lý đã trấn an họ rằng họ không theo đuổi một giấc mơ bất khả thi.

Được hình dung là mã máy thần kinh, đề xuất của họ có thể được thực hiện bằng cách giải mã các biểu diễn bên trong và động lực học RNN. Quá trình tương tự trong lập trình máy tính sẽ là quá trình biên dịch thuật toán trên phần cứng. Cách tiếp cận liên quan đến việc phân biệt vị trí của từng bóng bán dẫn và thời gian kích hoạt.

Trong RNN, các hoạt động này được tiến hành song song trên mạng thông qua các trọng số phân tán. Đồng thời, các tế bào thần kinh lưu trữ bộ nhớ và thực hiện các hoạt động này, Kim giải thích. Các nhà nghiên cứu đã kết hợp toán học để xác định tập hợp các hoạt động và chạy một thuật toán cụ thể. Hơn nữa, họ cũng đã trích xuất thuật toán đang chạy trên một tập trọng số hiện có. Ưu điểm khác biệt là nó không cần dữ liệu hoặc lấy mẫu. Hơn nữa, cách tiếp cận này cũng làm sáng tỏ một loạt các mẫu kết nối để chạy thuật toán mong muốn, thay vì chỉ một.

Nhóm đã thể hiện tính hiệu quả của phương pháp đổi mới của họ bằng cách sử dụng khuôn khổ của họ để tạo RNN cho nhiều ứng dụng. Từ máy ảo đến trò chơi điện tử bóng bàn do AI hỗ trợ đến cổng logic, các phương pháp tiếp cận của họ đều rất thành công mà không cần điều chỉnh thử và sai.

Những đóng góp trong công việc của họ gây ra sự thay đổi trong mô hình hiểu và nghiên cứu RNN. Các công cụ xử lý dữ liệu được chuyển đổi thành các máy tính full-stack. Sự thay đổi này mở ra cơ hội kiểm tra mục đích, thiết kế và khả năng thực hiện các tác vụ của RNN. Kim chia sẻ rằng mạng của họ có thể được bắt đầu bằng thuật toán dựa trên giả thuyết thay vì trọng số ngẫu nhiên. Điều này cũng có thể loại bỏ nhu cầu về RNN được đào tạo trước.

Công việc của nhóm là một bước tiến đầy hứa hẹn trong việc trích xuất và dịch các trọng số được đào tạo thành các thuật toán rõ ràng. Cách tiếp cận này tạo ra một phần mềm tiết kiệm năng lượng và có thể được kiểm tra chặt chẽ về hiệu suất và hiểu biết khoa học. Nền tảng không có mã của AppMaster cũng có thể khai thác những tiến bộ này, tích hợp chúng vào bộ công cụ toàn diện của họ để xây dựng các ứng dụng phụ trợ, web và di động có hiệu suất cao, gói gọn các chức năng này vào đăng ký và dịch vụ của họ.

Nhóm nghiên cứu của Bassett tại Đại học Pennsylvania nhằm ứng dụng các kỹ thuật máy học, đặc biệt là RNN, để tái tạo quá trình nhận thức của con người. Phát minh của họ về mã máy thần kinh rất phù hợp với mục tiêu này.

Một hướng hấp dẫn khác trong công việc nghiên cứu của họ là thiết kế RNN để thực hiện các tác vụ tái tạo chức năng nhận thức của con người. Bassett đã giải thích chi tiết về tiến trình nghiên cứu của họ, nói rằng họ dự định thiết kế RNN với các tính năng như sự chú ý, quyền sở hữu và sự tò mò. Khi làm như vậy, họ mong muốn xác định các cấu hình kết nối hỗ trợ các quá trình nhận thức độc đáo như vậy.