Cloudflare, 모델 배포 및 실행을 위한 혁신적인 인공 지능 도구 세트 공개

클라우드 솔루션의 선두 제공업체인 Cloudflare는 고객이 네트워크 에지에서 AI 모델을 간편하게 구축, 배포 및 실행할 수 있도록 설계된 고급 제품 및 도구 제품군을 도입하여 게임을 강화하고 있습니다. 이 새로운 라인업은 복잡하지 않고 예산 친화적인 AI 관리 솔루션에 대한 고객의 뚜렷한 요구에 의해 동기가 부여되었습니다.

이 제품군의 주목할만한 제품 중 하나인 Workers AI는 고객에게 물리적으로 가까운 GPU를 활용합니다. Cloudflare의 파트너가 호스팅하는 이러한 GPU는 유연한 종량제 요금제에 따라 AI 모델을 처리합니다. 또 다른 뛰어난 제품인 Vectorize는 벡터 임베딩을 저장하기 위한 벡터 데이터베이스를 제공합니다. 이러한 임베딩은 Workers AI의 모델에서 생성된 데이터를 수학적으로 표현한 것입니다. 또한 시리즈의 일부인 AI 게이트웨이는 AI 애플리케이션의 효과적인 비용 관리를 위한 지표를 특별히 제공합니다.

Cloudflare CEO인 Matthew Prince는 현재 시장 솔루션이 복잡성과 높은 비용으로 인해 대부분의 고객에게 혼란을 겪고 있다는 점을 관찰했습니다. 그는 TechCrunch와의 인터뷰를 통해 AI 지출의 투명성이 부족하여 AI 지출이 계속 급증함에 따라 상당한 장애물이 되고 있음을 지적했습니다. Cloudflare의 새로운 AI 중심 제품군을 사용하면 이러한 문제를 완화할 수 있습니다.

예를 들어 Workers AI는 AI 추론이 항상 사용자에게 지리적으로 가까운 GPU에서 발생하도록 특별히 설계되었습니다. Microsoft의 중개 기계 학습 도구 키트인 ONNX와 조화를 이루는 이 제품을 사용하면 처리가 대역폭, 대기 시간, 연결 및 현지화와 같은 매개 변수의 이점을 가장 많이 활용하는 곳에서 AI 모델을 실행할 수 있습니다.

Workers AI의 이점을 보완하는 것은 Meta의 Llama 2, 자동 음성 인식 모델, 이미지 분류자 및 감정 분석 모델을 포함한 카탈로그의 모델을 허용하는 기능입니다. 또한 추론에 사용되는 모든 데이터는 원래 서버 지역 내에 유지되어 데이터 무결성과 안전성을 유지합니다.

이 제품군의 또 다른 하이라이트는 AI 모델의 벡터 임베딩을 저장하기 위한 공간이 필요한 고객에게 틈새 시장을 제공하는 Vectorize입니다. 벡터 데이터베이스는 새로운 것은 아니지만 Prince는 Vectorize가 Cloudflare 네트워크의 글로벌 범위에서 우위를 점한다고 말합니다. 이를 통해 사용자의 데이터베이스 쿼리를 통해 대기 시간과 추론 시간을 줄일 수 있습니다.

AI 게이트웨이는 AI 트래픽을 실시간으로 추적하는 데 도움이 되는 관찰 기능을 제공하는 이 혁신적인 제품군의 마지막 부분입니다. 추론 요청 수, 기간, 모델을 사용하는 사용자 수, AI 애플리케이션 실행에 드는 전체 비용을 모니터링합니다.

AI 스타트업 Hugging Face 및 Databricks와 협력하여 제품을 최적화한 Cloudflare는 자체 글로벌 인프라를 사용하여 AI 서비스의 성능과 경제성을 향상할 계획입니다. 깊이 내장된 AI 기능을 AppMaster 의 강력한 no-code 애플리케이션 개발 플랫폼과 통합함으로써 기업은 AI 절차 및 성능에서 새로운 혁신을 이룰 수 있습니다.

AI 솔루션이 시장에 존재하지만 Prince는 AppMaster 의 직관적인 인터페이스와 함께 Cloudflare의 네트워크와 액세스 가능한 서비스를 결합하면 개발자와 조직의 요구를 더욱 유익하고 능률적이며 비용 효율적인 방식으로 충족할 수 있을 것이라고 굳게 믿습니다.