Cloudflare przedstawia innowacyjny zestaw narzędzi sztucznej inteligencji do wdrażania i wykonywania modeli

Cloudflare, wiodący dostawca rozwiązań chmurowych, przyspiesza swoją działalność, wprowadzając zaawansowany pakiet produktów i narzędzi zaprojektowanych, aby ułatwić klientom budowanie, wdrażanie i wykonywanie modeli sztucznej inteligencji na brzegu sieci. Motywacją do stworzenia nowej linii produktów było wyraźne zapotrzebowanie klientów na nieskomplikowane i niedrogie rozwiązanie do zarządzania sztuczną inteligencją.

Workers AI, jedna z godnych uwagi ofert w tym pakiecie, wykorzystuje procesory graficzne znajdujące się fizycznie blisko klientów. Te procesory graficzne, hostowane przez partnerów Cloudflare, przetwarzają modele AI w ramach elastycznego planu płatności zgodnie z rzeczywistym użyciem. Vectorize, kolejna wyjątkowa funkcja, oferuje wektorową bazę danych do przechowywania osadzonych wektorów. Te osady są matematyczną reprezentacją danych generowanych przez modele Workers AI. Częścią tej serii jest także AI Gateway, która w szczególności oferuje wskaźniki umożliwiające efektywne zarządzanie kosztami aplikacji AI.

Matthew Prince, dyrektor generalny Cloudflare, zauważa, że ​​obecne rozwiązania rynkowe dla większości klientów są zagadkowe ze względu na ich złożoność i wysoki koszt. W wywiadzie dla TechCrunch zwrócił uwagę na brak przejrzystości w wydatkach na sztuczną inteligencję, co czyni go znaczącą przeszkodą w obliczu ciągłego wzrostu wydatków na sztuczną inteligencję. Wyzwaniom tym można zapobiec za pomocą nowego pakietu produktów Cloudflare skupiających się na sztucznej inteligencji.

Na przykład Workers AI zaprojektowano specjalnie w celu zapewnienia, że ​​wnioskowanie AI zawsze odbywa się na procesorach graficznych znajdujących się geograficznie blisko użytkowników. Dzięki współpracy z ONNX, pośrednim zestawem narzędzi do uczenia maszynowego firmy Microsoft, produkt ten umożliwia uruchamianie modeli sztucznej inteligencji tam, gdzie przetwarzanie przynosi największe korzyści z parametrów takich jak przepustowość, opóźnienie, łączność i lokalizacja.

Uzupełnieniem zalet Workers AI jest możliwość udostępniania modeli z katalogu, w tym Meta's Llama 2, modeli automatycznego rozpoznawania mowy, klasyfikatorów obrazów i modeli analizy nastrojów. Ponadto wszelkie dane wykorzystywane do wnioskowania pozostają w regionie serwerów, z którego pochodzą, zachowując integralność i bezpieczeństwo danych.

Kolejną atrakcją tego pakietu jest Vectorize, który zapewnia niszę dla klientów potrzebujących miejsca do przechowywania osadzonych wektorów dla modeli AI. Chociaż wektorowe bazy danych nie są niczym nowym, Prince twierdzi, że Vectorize zyskuje przewagę dzięki globalnemu zasięgowi sieci Cloudflare. Dzięki temu zapytania do bazy danych wysyłane przez użytkowników zapewniają mniejsze opóźnienia i krótszy czas wnioskowania.

AI Gateway to ostatni element tego innowacyjnego pakietu, zapewniający funkcje obserwowalności pomagające śledzić ruch AI w czasie rzeczywistym. Monitoruje liczbę żądań wnioskowania, czas ich trwania, liczbę użytkowników korzystających z modelu oraz całkowity koszt uruchomienia aplikacji AI.

Współpracując ze start-upem AI Hugging Face i Databricks w celu optymalizacji swojej oferty, Cloudflare zamierza wykorzystać własną globalną infrastrukturę, aby zapewnić większą wydajność i przystępność cenową swoich usług AI. Integrując głęboko osadzone możliwości sztucznej inteligencji z potężną platformą do tworzenia aplikacji no-code, firmy AppMaster mogą odblokować nowe, przełomowe rozwiązania w zakresie procedur i wydajności sztucznej inteligencji.

Chociaż rozwiązania AI rzeczywiście istnieją na rynku, Prince jest głęboko przekonany, że połączenie sieci Cloudflare i dostępnych usług z intuicyjnym interfejsem AppMaster zaspokoi potrzeby programistów i organizacji w bardziej owocny, usprawniony i opłacalny sposób.