OpenAI เปิดตัวเงินสนับสนุน Superalignment มูลค่า 10 ล้านดอลลาร์

บริษัทเทคโนโลยียักษ์ใหญ่อย่าง OpenAI ได้เปิดตัวโครงการทุนสนับสนุนรูปแบบใหม่ที่มีโครงสร้างเกี่ยวกับการยกระดับหน่วยงานที่มีส่วนร่วมในการรับประกันการทำงานที่ปลอดภัยของระบบอัจฉริยะ การพัฒนานี้เกิดขึ้นเมื่อบริษัทคาดการณ์ว่าระบบอัจฉริยะขั้นสูงจะเกิดขึ้นในช่วงชีวิตของเรา ซึ่งจุดประกายให้เกิดความจำเป็นเร่งด่วนสำหรับระเบียบการด้านความปลอดภัยที่ได้รับการเสริมความแข็งแกร่งซึ่งเอื้อต่อความก้าวหน้าดังกล่าวในอนาคต

เนื่องจากยุค AI การเปลี่ยนแปลงที่กำลังใกล้เข้ามา OpenAI จินตนาการถึงระบบแห่งอนาคตที่บุกเบิกเหล่านี้ ซึ่งมีความสามารถในการดำเนินการที่ซับซ้อนและสร้างสรรค์ซึ่งอาจหลบเลี่ยงความเข้าใจของมนุษย์

ในปัจจุบัน มาตรการด้านความปลอดภัยที่ใช้สำหรับระบบ AI ส่วนใหญ่เกี่ยวข้องกับการจัดตำแหน่ง ซึ่งเป็นกระบวนการที่เน้นการเรียนรู้การเสริมกำลังเชิงตอบรับของมนุษย์ (RLHF) วิธีการนี้ขึ้นอยู่กับบทบาทการควบคุมดูแลของมนุษย์ที่สำคัญ และอาจสะดุดในสถานการณ์ที่ AI อัจฉริยะระดับสูงขับเคลื่อนการพัฒนาและการปฏิบัติงานขั้นสูง พิจารณาต้นแบบ AI ที่สร้างบรรทัดโค้ดหลายล้านบรรทัด มันจะเป็น Herculean สำหรับมนุษย์ที่จะประเมินความครบถ้วนของมันอย่างเป็นระบบ

บริษัทได้เน้นย้ำถึงความไม่แน่ใจที่ชัดเจนซึ่งต้องการความสนใจในทันที - มนุษย์จะควบคุมและสร้างความไว้วางใจในระบบ AI ให้มีความฉลาดมากกว่าตนเองได้อย่างไร OpenAI ระบุว่าสิ่งนี้เป็นหนึ่งในปัญหาทางเทคนิคที่ยังไม่ได้รับการแก้ไขอย่างเร่งด่วนที่สุดในโลก โดยมีทัศนคติเชิงบวก โดยเน้นว่าเส้นทางสู่การค้นพบโซลูชันนั้นกระจัดกระจายไปด้วยแนวทางที่มีแนวโน้มมากมาย ซึ่งสุกงอมสำหรับการเลือก

คำวิพากษ์วิจารณ์ของบริษัทเทคโนโลยีไม่เพียงแต่ขยายโอกาสที่สำคัญต่อหน้าชุมชนวิจัยการเรียนรู้ของเครื่องและนักวิจัยรายบุคคลเท่านั้น แต่ยังขับเคลื่อนความสนใจไปที่การสำรวจในทันทีและการพัฒนาความสำเร็จที่เป็นไปได้ในภาคส่วนนี้

นอกจากนี้ เพื่อสนับสนุนการดำเนินการวิจัยเหล่านี้ OpenAI ยังได้ดำเนินขั้นตอนเชิงรุกในการจัดตั้งโครงการให้ทุน Superalignment ที่มีวิสัยทัศน์ โดยอัดฉีดเงิน 10 ล้านดอลลาร์เข้ากองทุน มีการจัดสรรงบประมาณตั้งแต่ 100,000 ถึง 2 ล้านดอลลาร์สำหรับห้องปฏิบัติการทางวิชาการ องค์กรที่ไม่แสวงหาผลกำไร และนักวิจัยรายบุคคล นอกจากนี้ บริษัทยังได้จัดสรรทุนระยะเวลา 1 ปีมูลค่า 150,000 ดอลลาร์สหรัฐฯ สำหรับนักวิชาการระดับบัณฑิตศึกษา โดยแบ่งเงินทุนออกเป็นสองส่วนเพื่อรองรับเงินทุนวิจัยและค่าตอบแทน

ในการเปิดเผยที่น่ายินดี OpenAI แสดงให้เห็นนโยบายที่เปิดกว้าง ยินดีต้อนรับการสมัครจากนักวิจัย ไม่รวมประสบการณ์ก่อนหน้านี้ในการจัดตำแหน่ง ซึ่งเป็นเครื่องพิสูจน์ถึงหลักปฏิบัติของบริษัทในการไม่แบ่งแยกและส่งเสริมมุมมองใหม่ๆ

เพื่อปูทางไปสู่ผู้สมัครที่กระตือรือร้น OpenAI จะเปิดรับสมัครจนถึงวันที่ 18 กุมภาพันธ์ โดยมีเป้าหมายที่จะกลับไปเป็นผู้สมัครภายในหนึ่งเดือนนับจากกำหนดเวลาปิดรับสมัคร

โครงการริเริ่มการให้ทุนสนับสนุนใหม่นี้เกิดขึ้นหลังจากโครงการ Superalignment ที่กว้างขึ้นของ OpenAI ซึ่งเปิดตัวในเดือนกรกฎาคม ในฐานะส่วนหนึ่งของโครงการอันทะเยอทะยานนี้ บริษัทได้จัดตั้งทีมงานภายในทีมใหม่ โดยให้คำมั่นสัญญาว่าจะนำความสามารถในการประมวลผล 20% ไปใช้ในช่วงสี่ปีข้างหน้าเพื่อจัดการกับความท้าทายนี้ เป้าหมายที่ครอบคลุม: เพื่อพัฒนาระบบอัจฉริยะที่จำลองความสามารถในการวิจัยการจัดตำแหน่งของมนุษย์ตามความเป็นจริง