2023年9月27日·阅读约1分钟

Cloudflare 推出用于模型部署和执行的创新人工智能工具集

Cloudflare 宣布推出一套新的以 AI 为中心的解决方案,旨在使客户能够在网络边缘轻松构建、部署和运行 AI 模型。

Cloudflare 推出用于模型部署和执行的创新人工智能工具集

Cloudflare 是一家领先的云解决方案提供商,它正在加大力度,推出了一套先进的产品和工具,旨在让客户能够轻松地在网络边缘构建、部署和执行 AI 模型。这一新产品系列的推出是由于客户对简单且经济实惠的人工智能管理解决方案的明显需求。

Workers AI 是该套件中的一项著名产品,它利用了距离客户较近的 GPU。这些 GPU 由 Cloudflare 的合作伙伴托管,通过灵活的即用即付计划处理 AI 模型。 Vectorize 是另一个出色的工具,它提供了一个用于存储矢量嵌入的矢量数据库。这些嵌入是 Workers AI 模型生成的数据的数学表示。该系列的另一个部分是 AI Gateway,专门提供用于 AI 应用程序的有效成本管理的指标。

Cloudflare 首席执行官 Matthew Prince 指出,当前的市场解决方案由于其复杂性和高成本而令大多数客户感到困惑。他在接受 TechCrunch 采访时指出,人工智能支出缺乏透明度,这使其成为人工智能支出持续飙升的一个重大障碍。借助 Cloudflare 全新的以 AI 为中心的产品套件,可以缓解这些挑战。

例如,Workers AI 专门设计用于确保 AI 推理始终在地理位置靠近用户的 GPU 上进行。该产品与 Microsoft 的中间机器学习工具包 ONNX 配合使用,允许 AI 模型在最能从带宽、延迟、连接性和本地化等参数中受益的处理中运行。

Workers AI 的另一个优势是它能够支持来自 Meta 的 Llama 2 等目录的模型、自动语音识别模型、图像分类器和情感分析模型。此外,用于推理的任何数据都保留在其源自的服务器区域内,从而保持数据的完整性和安全性。

该套件的另一个亮点是 Vectorize,它为需要存储 AI 模型矢量嵌入空间的客户提供了利基市场。尽管矢量数据库并不新鲜,但 Prince 表示,Vectorize 从 Cloudflare 网络的全球覆盖范围中获得了优势。这允许用户的数据库查询产生更低的延迟和推理时间。

AI 网关是该创新套件的最后一部分,提供可观测功能以帮助实时跟踪 AI 流量。它监控推理请求的数量、持续时间、使用模型的用户数量以及运行人工智能应用程序的总体成本。

在与 AI 初创公司 Hugging Face 和 Databricks 合作优化其产品后,Cloudflare 打算利用自己的全球基础设施来确保其 AI 服务的性能提升和经济实惠。通过将深度嵌入的人工智能功能与AppMaster强大的no-code应用开发平台相集成,企业可以在人工智能流程和性能方面实现新的突破。

尽管市场上确实存在人工智能解决方案,但 Prince 坚信,将 Cloudflare 的网络和可访问的服务与AppMaster的直观界面相结合,将以更有效、更简化和更具成本效益的方式满足开发人员和组织的需求。

Easy to start
Create something amazing

Experiment with AppMaster with free plan.
When you will be ready you can choose the proper subscription.

Get Started
Cloudflare 推出用于模型部署和执行的创新人工智能工具集 | AppMaster