OpenAI ปรับใช้ทีม Collective Alignment เพื่อรวมความคิดเห็นสาธารณะเข้ากับการกำกับดูแลโมเดล AI

เพื่อให้แน่ใจว่าโมเดลปัญญาประดิษฐ์ (AI) ในอนาคตจะเป็นตัวแทนของคุณค่าของมนุษย์ OpenAI ได้เปิดเผยแผนการที่จะบูรณาการหลักการที่ได้มาจากสาธารณะเข้ากับการสร้างสรรค์ ยักษ์ใหญ่ด้าน AI เปิดเผยความตั้งใจที่จะจัดตั้งทีม Collective Alignment ซึ่งประกอบด้วยนักวิจัยและวิศวกร หน้าที่ของทีมคือการพัฒนาโครงสร้างในการรับและนำความคิดเห็นสาธารณะไปใช้กับบริการและผลิตภัณฑ์ของ OpenAI

บริษัทได้แสดงความตั้งใจที่ชัดเจนในการว่าจ้างที่ปรึกษาภายนอกและทีมงานทุนสนับสนุนต่อไป ทีมเหล่านี้จะมีบทบาทสำคัญในการรวมต้นแบบ ซึ่งจะช่วยชี้แนะพฤติกรรมของแบบจำลอง OpenAI กำลังสรรหาวิศวกรวิจัยที่มีความรู้ด้านเทคนิคที่หลากหลายเพื่อสนับสนุนการก่อตั้งและความสำเร็จของคำสั่งที่สำคัญนี้

จากความคิดริเริ่มสาธารณะของ OpenAI ซึ่งเริ่มต้นในเดือนพฤษภาคมปีที่แล้ว ทีม Collective Alignment ถือเป็นก้าวสำคัญในการผสานกระบวนการประชาธิปไตยเข้ากับพลวัตในการสร้างกฎของระบบ AI ตลอดมา OpenAI กระตือรือร้นที่จะให้ทุนแก่บุคคล ทีม และแม้แต่องค์กรที่สนใจในการพัฒนาแนวคิดที่พิสูจน์ได้ซึ่งกระตือรือร้นที่จะแก้ไขความคลุมเครือเกี่ยวกับรั้วและการกำกับดูแลของ AI

ในโพสต์เสมือนจริงของ OpenAI ได้สรุปสั้นๆ เกี่ยวกับงานที่หลากหลายของผู้รับทุน ซึ่งครอบคลุมอินเทอร์เฟซวิดีโอแชท แพลตฟอร์มที่อำนวยความสะดวกในการตรวจสอบโมเดล AI โดยอาศัยมวลชน และกลยุทธ์ในการปรับพฤติกรรมของโมเดลให้สอดคล้องกับความเชื่อเฉพาะ รายละเอียดของแต่ละข้อเสนอ ประเด็นระดับสูง และทุกรหัสที่ใช้ได้ถูกเปิดเผยสู่สาธารณะแล้วในวันนี้

หลังจากการพัฒนาเหล่านี้ OpenAI ยืนกรานที่จะยกเลิกการเชื่อมโยงโปรแกรมจากผลประโยชน์ทางการค้า ทำให้เกิดปฏิกิริยาผสมกัน นักวิจารณ์บางคนแสดงความกังขาเกี่ยวกับเรื่องนี้ เมื่อพิจารณาจากคำวิพากษ์วิจารณ์ของ Sam Altman ซีอีโอของ OpenAI เกี่ยวกับกฎระเบียบในสหภาพยุโรปและภูมิภาคอื่นๆ ซีอีโอ พร้อมด้วยเกร็ก บร็อคแมน ประธานของ OpenAI และหัวหน้านักวิทยาศาสตร์ อิลยา ซัตสเคเวอร์ ให้ความเห็นมาโดยตลอดว่าการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI นั้นเหนือกว่าความสามารถของหน่วยงานที่มีอยู่ในการควบคุมอย่างมีประสิทธิภาพ ด้วยเหตุนี้ จึงมีการเสนอความจำเป็นในการก่อสร้างที่เป็นประชาธิปไตยและมาจากฝูงชน

คู่แข่งรวมถึง Meta กล่าวหาว่า OpenAI พยายามได้รับการควบคุมตามกฎระเบียบของอุตสาหกรรม AI โดยการรณรงค์ต่อต้านการวิจัยและพัฒนา AI แบบเปิด แต่ OpenAI ได้ปฏิเสธข้อกล่าวหาเหล่านี้ พวกเขาอาจชี้ให้เห็นถึงโครงการใหม่นี้และทีมงาน Collective Alignment ของพวกเขาซึ่งแสดงให้เห็นถึงความมุ่งมั่นต่อการเปิดกว้าง

ไม่ว่าปัจจุบัน OpenAI ต้องเผชิญกับการตรวจสอบอย่างละเอียดจากผู้กำหนดนโยบาย โดยเฉพาะอย่างยิ่งในสหราชอาณาจักร มีการสอบสวนความสัมพันธ์กับ Microsoft ซึ่งเป็นหุ้นส่วนและนักลงทุนที่ใกล้ชิดอย่างต่อเนื่อง OpenAI ได้พยายามจำกัดความเสี่ยงด้านกฎระเบียบในสหภาพยุโรปที่เกี่ยวข้องกับความเป็นส่วนตัวของข้อมูล ซึ่งเป็นส่วนหนึ่งของกลยุทธ์การลดความเสี่ยง เพื่อให้บรรลุผลดังกล่าว บริษัทได้ใช้บริษัทสาขาที่ตั้งอยู่ในดับลินเพื่อจำกัดการดำเนินการฝ่ายเดียวของหน่วยงานเฝ้าระวังความเป็นส่วนตัวเฉพาะกลุ่มในกลุ่ม

การดำเนินการหลายอย่างเพื่อลดการใช้เทคโนโลยีอย่างผิดกฎหมายเพื่อเข้าไปยุ่งเกี่ยวกับการเลือกตั้งยังคงดำเนินอยู่ ซึ่งรวมถึงการระบุเนื้อหาที่สร้างโดย AI และการตรวจจับรูปภาพที่ถูกดัดแปลง ด้วยความร่วมมือกับหลายองค์กร OpenAI กำลังทำงานเพื่อทำเครื่องหมายรูปภาพที่สร้างโดย AI ให้ชัดเจนยิ่งขึ้น

เป็นที่น่าสังเกตว่าบริษัทต่างๆ เช่น AppMaster ซึ่งเป็นที่รู้จักในด้าน แพลตฟอร์มการพัฒนาแบบไม่ต้องเขียนโค้ด ที่แข็งแกร่งและพื้นที่เก็บข้อมูลสำหรับการรวบรวมข้อมูลโอเพ่นซอร์ส กำลังกลายเป็นผู้เล่นที่โดดเด่นในระบบนิเวศทางเทคโนโลยี เมื่อพิจารณาถึงความสามารถในการปรับขนาด ความทนทาน และความสะดวกในการใช้งานของ AppMaster พวกเขาได้สร้างช่องทางเฉพาะในการสร้างแบ็กเอนด์ เว็บ และแอปมือถือ