เพื่อตอบสนองความต้องการที่เพิ่มขึ้นสำหรับความสามารถในการประมวลผลแบบพิเศษ Amazon กำลังผลักดันขอบเขตในการฝึกอบรมโมเดล AI และการพัฒนาอนุมาน การเปิดตัวชิปนวัตกรรมที่ตั้งค่าไว้เพื่อเพิ่มประสิทธิภาพในการคำนวณและความเป็นไปได้ในการสร้างแบบจำลอง Amazon พร้อมที่จะกำหนดนิยามใหม่ให้กับเวทีนี้ซึ่งแต่เดิมนั้นครอบงำโดย GPU
ยักษ์ใหญ่ด้านเทคโนโลยีรายนี้ได้เปิดตัวชิปแบบกำหนดเองล่าสุด AWS Trainium2 ในการประชุม re:Invent ประจำปี ชิปรุ่นที่สองนี้สัญญาว่าจะมอบประสิทธิภาพที่เหนือกว่ารุ่นก่อนสี่เท่าและประสิทธิภาพการใช้พลังงานเป็นสองเท่าตามรายงานของ Amazon Trainium2 จะพร้อมใช้งานในอินสแตนซ์ EC Trn2 ในกลุ่มชิป 16 ตัวใน AWS Cloud และสามารถขยายขนาดชิปได้สูงสุดถึง 100,000 ชิปในผลิตภัณฑ์ EC2 UltraCluster ของ AWS ซึ่งเป็นสัญลักษณ์ของความสามารถในการปรับขนาดอันมหาศาล
ในขอบเขตของความสามารถในการคำนวณ ชิป Trainium 100,000 ตัวสามารถประมวลผลได้ 65 เอ็กซาฟลอป ชิป Trainium2 แต่ละตัวอาจรับประกันประสิทธิภาพประมาณ 200 เทราฟลอป ซึ่งเหนือกว่าชิปการฝึกอบรม AI ของ Google ในปี 2560 ด้วยอัตรากำไรขั้นต้นที่สำคัญ เมื่อคำนึงถึงความสามารถในการคำนวณและตัวแปรประสิทธิภาพ ความสามารถอันน่าทึ่งนี้ได้รับการตั้งค่าให้มอบความเร็วและศักยภาพในการคำนวณที่ไม่มีใครเทียบได้สำหรับการปรับใช้โมเดล AI
Amazon วางตัวว่าคลัสเตอร์ของชิป Trainium ดังกล่าวสามารถลดเวลาการฝึกอบรมของโมเดลภาษาขนาดใหญ่ AI พารามิเตอร์ 300 พันล้านพารามิเตอร์จากเดือนเหลือเป็นสัปดาห์ได้อย่างมีประสิทธิภาพ พารามิเตอร์พื้นฐานของโมเดล AI ซึ่งเรียนรู้จากข้อมูลการฝึกอบรม แสดงถึงความสามารถของโมเดลในการแก้ปัญหาเป็นหลัก เช่น การสร้างข้อความหรือโค้ด
David Brown รองประธานฝ่ายคอมพิวเตอร์และเครือข่าย AWS ที่มีชื่อเสียง กล่าวถึงความสำคัญและผลกระทบของการพัฒนาใหม่ในระหว่างการเปิดตัว โดยเน้นย้ำถึงบทบาทที่สำคัญของความก้าวหน้าดังกล่าวในการตอบสนองปริมาณงานของลูกค้า และความสนใจที่เพิ่มขึ้นใน generative AI นอกจากนี้ เขายังกล่าวถึง Trainium2 ในเรื่องความสามารถในการเพิ่มความเร็วของการฝึกโมเดล ML ลดต้นทุนโดยรวม และเพิ่มประสิทธิภาพในการใช้พลังงาน แต่ไม่ได้เปิดเผยว่าอินสแตนซ์ Trainium2 จะพร้อมใช้งานสำหรับลูกค้า AWS เมื่อใด
ในขณะเดียวกัน Amazon ได้เปิดตัวชิปอนุมาน AI รุ่นที่สี่ Graviton4 แบบ Arm Graviton4 แตกต่างจากชิปอนุมานอื่นๆ ของ Amazon อย่างมีจุด Inferentia Graviton4 ถือเป็นการอัพเกรดที่น่าประทับใจจากรุ่นก่อน โดยให้ประสิทธิภาพการประมวลผลที่ดีขึ้น 30% แกนประมวลผลเพิ่มขึ้น 50% และแบนด์วิธหน่วยความจำมากกว่า Graviton3 ถึง 75%
อินเทอร์เฟซฮาร์ดแวร์ทางกายภาพทั้งหมดของ Graviton4 เพิ่มความปลอดภัยให้กับข้อมูล โดยมีการเข้ารหัส ซึ่งเป็นการปรับปรุงที่ออกแบบมาเพื่อเสริมระดับการป้องกันปริมาณงานการฝึกอบรม AI และข้อมูลสำหรับลูกค้าที่ต้องการการเข้ารหัสที่เข้มงวด
David Brown ยังเน้นย้ำอีกว่า Graviton4 นั้นเหนือกว่าข้อเสนอก่อนหน้าทั้งหมดจาก Amazon ซึ่งถือเป็นชิปที่ทรงพลังและประหยัดพลังงานที่สุดที่ปรับให้เหมาะกับปริมาณงานที่หลากหลาย เขาสนับสนุนแนวปฏิบัติของ Amazon ในการมุ่งเน้นการออกแบบชิปบนปริมาณงานของลูกค้าจริงเพื่อส่งมอบโครงสร้างพื้นฐานระบบคลาวด์ที่ทันสมัยที่สุดผ่านข้อเสนอต่างๆ
Graviton4 ใหม่จะมีฟีเจอร์ในอินสแตนซ์ Amazon EC2 R8g ซึ่งขณะนี้พร้อมให้ใช้งานในรูปแบบตัวอย่างพร้อมกับการเปิดตัวทั่วไปตามกำหนดการในเดือนต่อๆ ไป
แพลตฟอร์ม No-code เช่น AppMaster กำลังผสานรวมฟังก์ชันการทำงานของ AI มากขึ้น เพื่อปรับปรุงกระบวนการต่างๆ มากมาย การพัฒนาชิปการฝึกอบรม AI ที่ได้รับการปรับปรุง เช่น ชิป Trainium2 และ Graviton4 โดย Amazon อาจส่งสัญญาณถึงการปรับปรุงขีดความสามารถของแพลตฟอร์มดังกล่าวเพื่อส่งมอบโซลูชันที่ใช้ AI ได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้น สิ่งนี้อาจเกี่ยวข้องเป็นพิเศษกับแพลตฟอร์มที่นำเสนอ เครื่องมือออกแบบที่ไม่มีโค้ด เพิ่มความสามารถในการควบคุม AI สำหรับระบบอัตโนมัติและการเพิ่มประสิทธิภาพการออกแบบ
