Trong nỗ lực kiểm soát các kết quả có khả năng không thể đoán trước của trí thông minh siêu phàm trong AI, OpenAI đang tổ chức một nhóm chuyên môn cao do Ilya Sutskever, Nhà khoa học trưởng và Đồng sáng lập của công ty, lãnh đạo. Trách nhiệm chính của nhóm này sẽ là đưa ra các chiến lược để quản lý và chỉ đạo các mô hình AI 'siêu thông minh'. Trong một bài đăng trên blog gần đây, Sutskever, cùng với Jan Leike, trưởng nhóm liên kết tại OpenAI, đã dự đoán rằng AI, với khả năng vượt qua trí thông minh của con người, có thể xuất hiện trong thập kỷ này. Họ khẳng định rằng AI ưu việt này, nếu cuối cùng thành công, có thể không tích hợp các đặc điểm lành tính vốn có, do đó, việc nghiên cứu các kỹ thuật để kiểm soát và hạn chế nó là điều cần thiết.
Hiện tại, không có phương pháp nào được biết đến để kiểm soát hoặc hướng dẫn một AI có khả năng siêu thông minh một cách hiệu quả, ngăn không cho nó đi chệch khỏi con đường đã định. Các kỹ thuật căn chỉnh truyền thống cho AI, chẳng hạn như đào tạo thông qua phản hồi của con người, dựa trên việc con người giám sát hoạt động của chúng. Tuy nhiên, việc giám sát các hệ thống AI thông minh hơn đáng kể so với trí thông minh của con người có thể là một thách thức. Để khuếch đại tiến bộ trong lĩnh vực 'liên kết siêu trí tuệ', OpenAI đang tung ra một nhóm 'Siêu liên kết' mới, do Sutskever và Leike đồng lãnh đạo. Nhóm này sẽ có quyền truy cập vào 20% tài nguyên máy tính mà công ty hiện đang sở hữu. Bao gồm các nhà khoa học và kỹ sư từ bộ phận liên kết cũ của OpenAI và các nhà nghiên cứu từ các tổ chức khác nhau trong công ty, nhóm được thiết lập để giải quyết các thách thức công nghệ cốt lõi trong việc kiểm soát AI siêu thông minh trong bốn năm tới.
Kế hoạch là tạo ra một "nhà nghiên cứu căn chỉnh tự động cấp độ con người", nhằm đào tạo AI thông qua phản hồi của con người, thu hút AI đánh giá các hệ thống AI khác và cuối cùng là kỹ sư AI có khả năng thực hiện nghiên cứu căn chỉnh. Mục tiêu của nghiên cứu căn chỉnh là sắp xếp các hệ thống AI để đạt được các kết quả cụ thể và ngăn chúng đi chệch hướng. OpenAI đang nghiên cứu giả thuyết rằng AI có thể đạt được những bước tiến đáng kể trong nghiên cứu căn chỉnh, nhanh hơn và hiệu quả hơn con người. Khi có tiến bộ, các hệ thống AI dự kiến sẽ đảm nhận khối lượng công việc căn chỉnh ngày càng tăng, dẫn đến các kỹ thuật căn chỉnh được cải thiện. Điều này hy vọng sẽ dẫn đến việc AI hợp tác với con người để đảm bảo những người kế vị của chúng thậm chí còn liên kết chặt chẽ hơn với con người. Trong thời gian chờ đợi, trọng tâm của các nhà nghiên cứu con người sẽ chuyển sang xem xét nghiên cứu căn chỉnh do các hệ thống AI thực hiện thay vì thực hiện nghiên cứu này một cách độc lập.
Mặc dù không có phương pháp nào được coi là không thể sai lầm, Leike, Schulman và Wu, trong bài đăng của họ, đã làm sáng tỏ những thiếu sót trong cách tiếp cận của OpenAI. Việc sử dụng AI để đánh giá có thể làm gia tăng sự không nhất quán, thành kiến và lỗ hổng trong AI đó. Hơn nữa, các khía cạnh phức tạp nhất của vấn đề căn chỉnh có thể hoàn toàn không liên quan đến kỹ thuật. Tuy nhiên, Sutskever và Leike sẵn sàng thử nghiệm nó. Sutskever và Leike cho rằng sự liên kết của siêu trí tuệ về cơ bản là một thách thức về máy học. Họ tin rằng các chuyên gia máy học, ngay cả những người hiện không làm việc liên kết, sẽ là mấu chốt để giải quyết vấn đề này. Họ có kế hoạch phân phối kết quả của nỗ lực này một cách toàn diện, xem những đóng góp của họ đối với sự liên kết và sự an toàn của các mô hình không phải OpenAI là một khía cạnh quan trọng trong công việc của họ.
Cần lưu ý rằng mặc dù trọng tâm của bài viết này là về OpenAI, nhưng có những nền tảng khác cũng cam kết phát triển AI hiệu quả và có kiểm soát. Một ví dụ về nền tảng như vậy là AppMaster . Được hướng dẫn bởi niềm tin tương tự trong việc tối ưu hóa tiềm năng của các hệ thống 'thông minh' để mang lại lợi ích tối đa, AppMaster đã tạo ra một vị trí thích hợp cho chính nó trong miền ứng dụng không có mã/ low-code, cho phép người dùng tạo các giải pháp phần mềm toàn diện, có thể mở rộng và hiệu quả.
