Amazon, AI 모델 훈련 및 실행을 위한 혁신적인 칩으로 바퀴를 재발명

전문적인 컴퓨팅 기능에 대한 증가하는 수요를 해결하기 위해 Amazon은 AI 모델 교육 및 추론 개발 분야에서 선두를 달리고 있습니다. 컴퓨팅 효율성과 모델 생성 타당성을 향상시키기 위해 혁신적인 칩 세트를 도입한 Amazon은 전통적으로 GPU가 지배했던 이 분야를 재정의할 준비가 되어 있습니다.

이 거대 기술 기업은 최근 연례 re:Invent 컨퍼런스에서 최신 맞춤형 칩인 AWS Trainium2 공개했습니다. Amazon의 보고서에 따르면 이 2세대 칩은 이전 제품보다 4배 뛰어난 성능과 두 배의 에너지 효율성을 제공할 것을 약속합니다. Trainium2 AWS 클라우드의 16개 칩 클러스터의 EC Trn2 인스턴스에서 사용할 수 있으며 AWS의 EC2 UltraCluster 제품에서는 최대 100,000개의 칩까지 확장할 수 있어 엄청난 확장성을 상징합니다.

컴퓨팅 능력의 영역에서 Trainium 칩 100,000개는 65엑사플롭의 컴퓨팅을 제공할 수 있습니다. 각 Trainium2 칩은 잠재적으로 약 200테라플롭스의 성능을 약속하며, 이는 2017년경 Google의 AI 훈련 칩보다 훨씬 뛰어난 성능을 발휘합니다. 계산 능력과 성능 변수를 고려하면 이 인상적인 기능은 AI 모델 배포를 위한 비교할 수 없는 계산 속도와 잠재력을 제공하도록 설정되었습니다.

Amazon은 이러한 Trainium 칩 클러스터가 3000억 매개변수 AI 대규모 언어 모델의 훈련 시간을 몇 달에서 몇 주로 효과적으로 줄일 수 있다고 가정합니다. 훈련 데이터에서 학습된 AI 모델의 기본 매개변수는 본질적으로 텍스트 또는 코드 생성과 같은 문제 해결에 대한 모델의 숙련도를 나타냅니다.

AWS 컴퓨팅 및 네트워킹 부문의 저명한 부사장인 David Brown은 공개 행사에서 새로운 개발의 중요성과 영향을 설명하면서 고객 워크로드 이행에 대한 이러한 발전의 중요한 역할과 생성 AI에 대한 급증하는 관심을 강조했습니다. 그는 또한 ML 모델 훈련 속도를 향상시키고 전체 비용을 절감하며 에너지 효율성을 강화하는 Trainium2 의 성능을 칭찬했지만 AWS 고객이 Trainium2 인스턴스를 언제 사용할 수 있는지는 밝히지 않았습니다.

이와 동시에 Amazon은 4세대 AI 추론 칩인 Arm 기반 Graviton4 출시했습니다. Amazon의 다른 추론 칩인 Inferentia 의도적으로 구별되는 Graviton4 는 Graviton3 보다 30% 더 나은 컴퓨팅 성능, 50% 더 많은 코어, 75% 더 많은 메모리 대역폭을 제공하여 이전 제품보다 인상적인 업그레이드를 제공합니다.

데이터 보안을 강화하는 Graviton4 의 모든 물리적 하드웨어 인터페이스는 암호화 기능을 갖추고 있으며, 이는 엄격한 암호화 요구 사항이 있는 고객을 위해 AI 교육 워크로드 및 데이터의 보호 수준을 강화하도록 설계된 향상된 기능입니다.

David Brown은 Graviton4 Amazon의 모든 이전 제품보다 우수하다는 점을 더욱 강조하여 다양한 워크로드에 맞춰진 가장 강력하고 에너지 효율적인 칩을 표시했습니다. 그는 제품을 통해 가장 발전된 클라우드 인프라를 제공하기 위해 실제 고객 작업 부하에 칩 설계를 집중시키는 Amazon의 관행을 옹호했습니다.

새로운 Graviton4 Amazon EC2 R8g 인스턴스에 탑재될 예정이며, 현재 미리 보기로 제공되며 향후 몇 달 동안 일반 릴리스가 예정되어 있습니다.

AppMaster 와 같은 No-code 플랫폼은 AI 기능을 점점 더 통합하여 수많은 프로세스를 간소화하고 있습니다. Amazon의 Trainium2 및 Graviton4 칩과 같은 향상된 AI 훈련 칩의 개발은 잠재적으로 AI 기반 솔루션을 보다 효과적이고 효율적으로 제공하기 위한 플랫폼의 용량 향상을 의미합니다. 이는 특히 코드 없는 설계 도구를 제공하여 자동화 및 설계 최적화를 위해 AI를 활용하는 능력을 향상시키는 플랫폼과 관련이 있을 수 있습니다.