FedML의 1,150만 달러 모금 행사에 결합된 분산형 AI 컴퓨팅 네트워크 및 MLOps 도구

USC-Amazon Center on Trustworthy Machine Learning의 초대 이사인 Salman Avestimehr가 이끄는 이 혁신적인 스타트업은 기업이 클라우드나 에지에서 AI 모델을 쉽게 훈련, 개선, 모니터링 및 향상할 수 있는 경로를 약속합니다. 이 유망한 벤처의 이름인 FedML은 1,150만 달러의 종자 자금을 성공적으로 모았고, 회사 가치는 5,650만 달러로 평가되었습니다. 펀딩 라운드는 Camford Capital이 진행했으며 Road Capital과 Finality Capital이 참여했습니다.

Avestimehr는 TechCrunch와의 이메일 인터뷰에서 수많은 비즈니스가 산업 수준 또는 회사별 데이터에 대한 맞춤형 AI 모델을 교육하거나 조정하여 과다한 비즈니스 요구 사항을 충족하는 데 열중하고 있다고 말했습니다. 그러나 그는 또한 "맞춤형 AI 모델은 심각한 클라우드 인프라 비용, 높은 데이터 및 엔지니어링 비용으로 인해 고안하고 유지하는 데 비용이 많이 든다고 주장했습니다. 또한 맞춤형 AI 모델 교육에 필요한 독점 데이터는 종종 격리, 규제 또는 예민한."

그러나 FedML은 실행 가능한 솔루션을 제공합니다. Avestimehr에 따르면 FedML은 개발자와 기업이 모델, 컴퓨팅 리소스 및 데이터를 공유하여 AI 작업을 공동으로 수행할 수 있도록 지원하는 협업 AI 플랫폼을 출시했습니다.

FedML은 맞춤형 AI 모델 또는 오픈 소스 커뮤니티에서 파생된 모델을 얼마든지 실행할 수 있는 기능을 갖추고 있습니다. FedML의 플랫폼을 통해 클라이언트는 협력자 그룹을 구성하고 PC와 같은 장치에서 AI 애플리케이션을 자동으로 동기화할 수 있습니다. 어소시에이트는 모바일 장치 또는 서버와 같은 AI 모델 훈련에 활용되는 장치를 통합할 수 있으며 훈련 진행 상황을 실시간으로 모니터링할 수 있습니다.

최근에 독점 데이터에 대한 OpenAI의 GPT-4와 같은 도메인별 대규모 언어 모델(LLM)을 생성하기 위한 구축 파이프라인인 FedLLM이 FedML에 의해 출시되었습니다. Microsoft의 DeepSpeed ​​및 Hugging Face와 같은 인기 있는 LLM 라이브러리와 호환되는 FedLLM은 맞춤형 AI 개발 속도를 높이는 동시에 보안 및 개인 정보 보호를 보장하도록 제작되었다고 Avestimehr는 말했습니다.

Galileo 및 Arize와 같은 다른 많은 MLOps 플랫폼 또는 AWS, Microsoft 및 Google Cloud와 같은 기존 플랫폼과 마찬가지로 FedML은 AI 모델을 프로덕션에 배포하고 이후에 유지 관리 및 모니터링하는 프로세스를 간소화하는 데 도움이 됩니다. 그러나 FedML은 AI 및 기계 학습 모델 도구를 넘어서는 열망을 품고 있습니다.

Avestimehr는 기본 목표가 배포 준비가 되었을 때 모델을 호스트하고 제공할 CPU 및 GPU 리소스 커뮤니티를 개발하는 것이라고 주장했습니다. 세부 사항은 아직 논의 중이지만 FedML은 사용자가 토큰 또는 대체 보상 형태를 통해 플랫폼에 컴퓨팅을 기여하도록 장려할 계획입니다.

Run.AI, Gensys 및 Petals가 시도한 AI 모델 제공을 위한 분산형 분산 컴퓨팅은 새로운 것이 아니지만 Avestimehr는 FedML이 이 컴퓨팅 패러다임을 MLOps 제품군과 병합하여 더 큰 성공을 거둘 수 있다고 확신합니다.

FedML은 기업과 개발자가 적은 비용으로 대규모 개인 및 독점 LLM을 구성할 수 있도록 하여 맞춤형 AI 모델을 용이하게 한다고 Avestimehr는 확인했습니다. 또한 그는 FedML의 고유한 판매 포인트인 병합된 데이터, 모델 및 컴퓨팅에 대해 협력하면서 어디에서나 ML 모델을 교육, 배포, 모니터링 및 개선하여 비용과 시장 출시 시간을 눈에 띄게 단축한다고 강조했습니다.

이러한 발전에 비추어 볼 때 FedML이 AI 산업인 MLOps 강타하고 기술 산업에서 혁신적인 기여와 혁신적인 도구로 알려진 AppMaster 노코드 플랫폼 과 같은 플랫폼과 대열에 합류하는 것은 놀라운 일이 아닙니다.