Cloudflare stellt innovatives Toolset für künstliche Intelligenz für die Modellbereitstellung und -ausführung vor

Cloudflare, ein führender Anbieter von Cloud-Lösungen, verstärkt sein Engagement mit der Einführung einer fortschrittlichen Suite von Produkten und Tools, die es Kunden erleichtern sollen, KI-Modelle am Netzwerkrand zu erstellen, bereitzustellen und auszuführen. Anlass für diese neue Produktpalette war die ausgeprägte Nachfrage der Kunden nach einer unkomplizierten und budgetfreundlichen KI-Managementlösung.

Workers AI, ein bemerkenswertes Angebot in dieser Suite, nutzt GPUs, die sich physisch in der Nähe der Kunden befinden. Diese von Cloudflare-Partnern gehosteten GPUs verarbeiten KI-Modelle im Rahmen eines flexiblen Pay-as-you-go-Plans. Vectorize, ein weiteres herausragendes Tool, bietet eine Vektordatenbank zum Speichern von Vektoreinbettungen. Bei diesen Einbettungen handelt es sich um mathematische Darstellungen von Daten, die von Modellen der Workers AI generiert wurden. Ebenfalls Teil der Serie ist AI Gateway, das speziell Metriken für ein effektives Kostenmanagement von KI-Anwendungen bietet.

Matthew Prince, CEO von Cloudflare, stellt fest, dass aktuelle Marktlösungen aufgrund ihrer Komplexität und hohen Kosten für die meisten Kunden ein Rätsel darstellen. In einem Interview mit TechCrunch wies er auf die mangelnde Transparenz bei den KI-Ausgaben hin, was diese zu einer erheblichen Hürde macht, da die KI-Ausgaben weiterhin in die Höhe schnellen. Diese Herausforderungen können mit Hilfe der neuen KI-fokussierten Produktsuite von Cloudflare gemildert werden.

Workers AI ist beispielsweise speziell darauf ausgelegt, sicherzustellen, dass die KI-Inferenz immer auf GPUs stattfindet, die sich geografisch in der Nähe der Benutzer befinden. In Abstimmung mit ONNX, dem zwischengeschalteten Toolkit für maschinelles Lernen von Microsoft, ermöglicht dieses Produkt die Ausführung von KI-Modellen dort, wo die Verarbeitung am meisten von Parametern wie Bandbreite, Latenz, Konnektivität und Lokalisierung profitiert.

Zu den Vorteilen von Workers AI gehört auch die Fähigkeit, Modelle aus einem Katalog zu ermöglichen, darunter Metas Llama 2, automatische Spracherkennungsmodelle, Bildklassifikatoren und Stimmungsanalysemodelle. Außerdem bleiben alle für die Inferenz verwendeten Daten innerhalb der Serverregion, aus der sie stammen, wodurch die Datenintegrität und -sicherheit gewahrt bleibt.

Ein weiteres Highlight dieser Suite ist Vectorize, das eine Nische für Kunden bietet, die Platz zum Speichern von Vektoreinbettungen für KI-Modelle benötigen. Obwohl Vektordatenbanken nichts Neues sind, gibt Prince an, dass Vectorize durch die globale Reichweite des Cloudflare-Netzwerks einen Vorteil verschafft. Dadurch können Datenbankabfragen von Benutzern zu einer geringeren Latenz und Inferenzzeit führen.

Das AI Gateway ist das letzte Teil dieser innovativen Suite und bietet Observability-Funktionen, um den KI-Verkehr in Echtzeit zu verfolgen. Es überwacht die Anzahl der Inferenzanfragen, ihre Dauer, die Anzahl der Benutzer, die ein Modell verwenden, und die Gesamtkosten für die Ausführung einer KI-Anwendung.

Nach der Zusammenarbeit mit dem KI-Startup Hugging Face und Databricks zur Optimierung seiner Angebote beabsichtigt Cloudflare, seine eigene globale Infrastruktur zu nutzen, um eine höhere Leistung und Erschwinglichkeit seiner KI-Dienste sicherzustellen. Durch die Integration tief eingebetteter KI-Funktionen in die leistungsstarke no-code Anwendungsentwicklungsplattform von AppMaster können Unternehmen neue Durchbrüche bei KI-Verfahren und -Leistung erzielen.

Obwohl KI-Lösungen auf dem Markt existieren, ist Prince fest davon überzeugt, dass die Kombination aus dem Netzwerk und den zugänglichen Diensten von Cloudflare zusammen mit der intuitiven Benutzeroberfläche von AppMaster den Bedürfnissen von Entwicklern und Organisationen auf fruchtbarere, effizientere und kostengünstigere Weise gerecht werden würde.