Cloudflare, Model Dağıtımı ve Yürütülmesi için Yenilikçi Yapay Zeka Araç Setini Tanıttı

Lider bulut çözümleri sağlayıcısı Cloudflare, müşterilerin ağ ucunda yapay zeka modelleri oluşturmasını, dağıtmasını ve yürütmesini kolaylaştırmak için tasarlanmış gelişmiş bir ürün ve araç paketi sunarak oyununu hızlandırıyor. Bu yeni seri, müşterilerden gelen karmaşık olmayan ve bütçe dostu bir yapay zeka yönetimi çözümüne yönelik belirgin talep nedeniyle motive edildi.

Bu paketin dikkate değer tekliflerinden biri olan Workers AI, müşterilere fiziksel olarak yakın olan GPU'lardan yararlanıyor. Cloudflare'in ortakları tarafından barındırılan bu GPU'lar, yapay zeka modellerini esnek bir kullandıkça öde planıyla işler. Başka bir öne çıkan Vectorize, vektör yerleştirmelerini depolamak için bir vektör veritabanı sunuyor. Bu yerleştirmeler, Workers AI modelleri tarafından oluşturulan verilerin matematiksel temsilleridir. Ayrıca serinin bir parçası, özellikle yapay zeka uygulamalarının etkili maliyet yönetimine yönelik ölçümler sunan AI Ağ Geçidi'dir.

Cloudflare CEO'su Matthew Prince, mevcut pazar çözümlerinin karmaşıklıkları ve yüksek maliyetleri nedeniyle çoğu müşteri için kafa karıştırıcı olduğunu gözlemliyor. TechCrunch ile yaptığı bir röportajda, AI harcamalarında şeffaflık eksikliğine dikkat çekti ve bu durum, AI harcamaları artmaya devam ederken bunun önemli bir engel haline geldiğini belirtti. Bu zorluklar Cloudflare'in yeni yapay zeka odaklı ürün paketinin yardımıyla hafifletilebilir.

Örneğin, Workers AI, yapay zeka çıkarımının her zaman coğrafi olarak kullanıcılara yakın GPU'larda gerçekleşmesini sağlamak için özel olarak tasarlanmıştır. Microsoft'un aracı makine öğrenimi araç seti ONNX ile koordineli çalışan bu ürün, yapay zeka modellerinin işlemenin bant genişliği, gecikme, bağlantı ve yerelleştirme gibi parametrelerden en fazla fayda sağladığı yerlerde çalışmasına olanak tanır.

Workers AI'nın avantajlarına ek olarak, Meta'nın Llama 2'sini, otomatik konuşma tanıma modellerini, görüntü sınıflandırıcılarını ve duygu analizi modellerini içeren bir katalogdaki modellere izin verme kapasitesi de vardır. Ayrıca, çıkarım için kullanılan veriler, kaynaklandığı sunucu bölgesinde kalarak veri bütünlüğünü ve güvenliğini korur.

Bu paketin öne çıkan bir diğer özelliği de yapay zeka modelleri için vektör yerleştirmelerini depolamak üzere alana ihtiyaç duyan müşterilere bir niş sağlayan Vectorize'dir. Vektör veritabanları yeni olmasa da Prince, Vectorize'ın Cloudflare ağının küresel erişiminden avantaj elde ettiğini belirtiyor. Bu, kullanıcılardan gelen veritabanı sorgularının daha düşük gecikme ve çıkarım süresi sağlamasına olanak tanır.

AI Ağ Geçidi, bu yenilikçi paketin son parçası olup, AI trafiğinin gerçek zamanlı olarak izlenmesine yardımcı olacak gözlemlenebilirlik işlevleri sağlar. Çıkarım isteklerinin sayısını, bunların süresini, bir modeli kullanan kullanıcı sayısını ve bir yapay zeka uygulamasını çalıştırmanın genel maliyetini izler.

Tekliflerini optimize etmek için AI girişimi Hugging Face ve Databricks ile işbirliği yapan Cloudflare, AI hizmetleriyle artırılmış performans ve uygun fiyat sağlamak için kendi küresel altyapısını kullanmayı planlıyor. İşletmeler, derinlemesine yerleşik yapay zeka yeteneklerini AppMaster güçlü no-code uygulama geliştirme platformuyla entegre ederek, yapay zeka prosedürü ve performansında daha yeni atılımların kilidini açabilir.

Piyasada yapay zeka çözümleri mevcut olmasına rağmen Prince, Cloudflare ağı ve erişilebilir hizmetlerinin AppMaster sezgisel arayüzü ile birleşiminin geliştiricilerin ve kuruluşların ihtiyaçlarını daha verimli, akıcı ve uygun maliyetli bir şekilde karşılayacağına kesinlikle inanıyor.