OpenAI công bố khoản tài trợ siêu liên kết trị giá 10 triệu USD

Người khổng lồ công nghệ, OpenAI, đã mở ra một chương trình tài trợ mới được cấu trúc xoay quanh việc nâng cao tinh thần các thực thể tham gia vào việc đảm bảo hoạt động an toàn của các hệ thống siêu trí tuệ. Sự phát triển này diễn ra khi công ty dự đoán sự xuất hiện của siêu trí tuệ trong thời đại của chúng ta, làm nảy sinh nhu cầu cấp thiết về các giao thức an toàn được tăng cường có lợi cho những tiến bộ như vậy trong tương lai.

Với kỷ nguyên AI đầy biến đổi này đang đến gần, OpenAI hình dung ra những hệ thống tương lai tiên phong này có khả năng thực hiện các hoạt động phức tạp, sáng tạo có thể vượt quá tầm hiểu biết của con người.

Hiện tại, các biện pháp an toàn được sử dụng cho hệ thống AI chủ yếu xoay quanh việc căn chỉnh - một quá trình nhấn mạnh vào việc học tăng cường dựa trên phản hồi của con người (RLHF). Phương pháp này phụ thuộc vào vai trò giám sát quan trọng của con người và có khả năng bị chùn bước trong kịch bản mà AI siêu thông minh thúc đẩy sự phát triển và thực hiện các nhiệm vụ nâng cao. Hãy xem xét một nguyên mẫu AI tạo ra hàng triệu dòng mã; con người sẽ đánh giá toàn bộ nó một cách có hệ thống.

Công ty đã nêu bật một tình thế khó khăn rõ ràng cần được chú ý ngay lập tức - làm thế nào con người có thể định hướng và thiết lập niềm tin vào các hệ thống AI có trí tuệ cao hơn chính họ rất nhiều? Xác định đây là một trong những câu hỏi hóc búa về kỹ thuật chưa được giải quyết cấp bách nhất trên thế giới, OpenAI duy trì quan điểm tích cực, nhấn mạnh rằng con đường hướng tới khám phá giải pháp còn rải rác với nhiều cách tiếp cận đầy hứa hẹn, đã chín muồi để lựa chọn.

Lời phê bình của công ty công nghệ không chỉ khuếch đại cơ hội đáng kể trước cộng đồng nghiên cứu máy học và các nhà nghiên cứu cá nhân mà còn hướng sự chú ý tới việc khám phá ngay lập tức và những đột phá về thành tựu có thể có trong lĩnh vực này.

Củng cố hơn nữa các cam kết nghiên cứu này, OpenAI đã thực hiện các bước tích cực trong việc thiết lập chương trình tài trợ Superalignment có tầm nhìn xa, bơm 10 triệu USD vào kho bạc của mình. Dự kiến ​​sẽ phân bổ từ 100.000 USD đến 2 triệu USD cho các phòng thí nghiệm học thuật, các tổ chức phi lợi nhuận và các nhà nghiên cứu cá nhân. Ngoài ra, công ty cũng dành học bổng trị giá 150.000 đô la một năm cho các học giả sau đại học, chia quỹ thành hai phân đoạn để phục vụ cho việc tài trợ và trợ cấp nghiên cứu.

Trong một tiết lộ đáng khích lệ, OpenAI thể hiện một chính sách cởi mở, chào đón các ứng dụng từ các nhà nghiên cứu không có kinh nghiệm về sự liên kết trước đó - một minh chứng cho đặc tính của công ty về tính toàn diện và khuyến khích các quan điểm mới.

Mở đường cho những người nộp đơn háo hức, OpenAI sẽ tiếp tục mở đơn đăng ký cho đến ngày 18 tháng 2, nhằm mục đích quay trở lại với những người nộp đơn trong vòng một tháng kể từ thời hạn đóng đơn.

Sáng kiến ​​tài trợ mới xuất hiện sau Dự án Siêu liên kết rộng hơn của OpenAI được công bố vào tháng 7. Là một phần của dự án đầy tham vọng này, công ty đã tập hợp một nhóm nội bộ mới, cam kết tăng 20% ​​công suất xử lý trong bốn năm tới để giải quyết thách thức này. Mục tiêu bao trùm: phát triển một hệ thống siêu thông minh có thể tái tạo một cách thực tế khả năng nghiên cứu liên kết của con người.