Cloudflare onthult innovatieve toolset voor kunstmatige intelligentie voor de implementatie en uitvoering van modellen

Cloudflare, een toonaangevende leverancier van cloudoplossingen, voert zijn inspanningen op met de introductie van een geavanceerd pakket producten en tools die zijn ontworpen om het voor klanten eenvoudig te maken om AI-modellen aan de rand van het netwerk te bouwen, implementeren en uit te voeren. Deze nieuwe line-up werd gemotiveerd door een duidelijke vraag van klanten naar een ongecompliceerde en budgetvriendelijke AI-beheeroplossing.

Workers AI, een opmerkelijk aanbod in deze suite, maakt gebruik van GPU's die fysiek dicht bij klanten staan. Deze GPU's, gehost door de partners van Cloudflare, verwerken AI-modellen volgens een flexibel pay-as-you-go-plan. Vectorize, een ander hoogtepunt, biedt een vectordatabase voor het opslaan van vectorinsluitingen. Deze insluitingen zijn wiskundige representaties van gegevens die zijn gegenereerd door modellen van Workers AI. Ook onderdeel van de serie is AI Gateway, dat specifiek statistieken biedt voor effectief kostenbeheer van AI-applicaties.

Matthew Prince, CEO van Cloudflare, merkt op dat de huidige marktoplossingen voor de meeste klanten verwarrend zijn vanwege hun complexiteit en hoge kosten. Via een interview met TechCrunch wees hij op het gebrek aan transparantie in de AI-uitgaven, waardoor dit een belangrijke hindernis vormt nu de AI-uitgaven blijven stijgen. Deze uitdagingen kunnen worden verholpen met behulp van Cloudflare's nieuwe, op AI gerichte productsuite.

Workers AI is bijvoorbeeld speciaal ontworpen om ervoor te zorgen dat AI-inferentie altijd plaatsvindt op GPU's die zich geografisch dicht bij gebruikers bevinden. In samenwerking met ONNX, de intermediaire machine learning-toolkit van Microsoft, kunnen AI-modellen worden uitgevoerd daar waar de verwerking het meeste profiteert van parameters zoals bandbreedte, latentie, connectiviteit en lokalisatie.

Een aanvulling op de voordelen van Workers AI is het vermogen om modellen uit een catalogus toe te staan, waaronder Meta's Llama 2, modellen voor automatische spraakherkenning, beeldclassificatoren en modellen voor sentimentanalyse. Bovendien blijven alle gegevens die voor gevolgtrekkingen worden gebruikt binnen de serverregio waar ze vandaan komen, waardoor de gegevensintegriteit en veiligheid behouden blijven.

Een ander hoogtepunt van deze suite is Vectorize, dat een niche biedt voor klanten die ruimte nodig hebben voor het opslaan van vectorinbedding voor AI-modellen. Hoewel vectordatabases niet nieuw zijn, stelt Prince dat Vectorize een voorsprong haalt uit het wereldwijde bereik van het netwerk van Cloudflare. Hierdoor kunnen databasequery's van gebruikers een lagere latentie en gevolgtrekkingstijd opleveren.

De AI Gateway is het laatste onderdeel van deze innovatieve suite en biedt observatiefuncties om AI-verkeer in realtime te volgen. Het bewaakt het aantal deductieverzoeken, de duur ervan, het aantal gebruikers dat een model gebruikt en de totale kosten van het uitvoeren van een AI-toepassing.

Na samengewerkt te hebben met AI-startup Hugging Face en Databricks om zijn aanbod te optimaliseren, is Cloudflare van plan zijn eigen wereldwijde infrastructuur te gebruiken om verbeterde prestaties en betaalbaarheid met zijn AI-diensten te garanderen. Door diep ingebedde AI-mogelijkheden te integreren met het krachtige no-code applicatie-ontwikkelingsplatform van AppMaster, kunnen bedrijven nieuwere doorbraken in AI-procedures en -prestaties ontgrendelen.

Hoewel er AI-oplossingen op de markt bestaan, is Prince ervan overtuigd dat de combinatie van het netwerk van Cloudflare en toegankelijke diensten naast de intuïtieve interface van AppMaster op een vruchtbaardere, gestroomlijnde en kosteneffectieve manier tegemoet zou komen aan de behoeften van ontwikkelaars en organisaties.