Cloudflare ra mắt bộ công cụ trí tuệ nhân tạo tiên tiến để triển khai và thực thi mô hình

Cloudflare, nhà cung cấp giải pháp đám mây hàng đầu, đang đẩy mạnh hoạt động của mình bằng việc giới thiệu bộ sản phẩm và công cụ tiên tiến được thiết kế để giúp khách hàng xây dựng, triển khai và thực thi các mô hình AI ở biên mạng một cách đơn giản. Dòng sản phẩm mới này được thúc đẩy bởi nhu cầu rõ rệt của khách hàng về giải pháp quản lý AI không phức tạp và thân thiện với ngân sách.

Công nhân AI, một sản phẩm đáng chú ý trong bộ phần mềm này, tận dụng GPU gần gũi với khách hàng. Các GPU này do các đối tác của Cloudflare lưu trữ, xử lý các mô hình AI theo gói thanh toán linh hoạt theo nhu cầu sử dụng. Vectorize, một sản phẩm nổi bật khác, cung cấp cơ sở dữ liệu vectơ để lưu trữ các phần nhúng vectơ. Các phần nhúng này là các biểu diễn toán học của dữ liệu được tạo bởi các mô hình từ AI của Công nhân. Ngoài ra, một phần của loạt bài này là Cổng AI, chuyên cung cấp các số liệu để quản lý chi phí hiệu quả cho các ứng dụng AI.

Matthew Prince, Giám đốc điều hành Cloudflare, nhận thấy rằng các giải pháp thị trường hiện tại đang khiến hầu hết khách hàng bối rối do tính phức tạp và chi phí cao. Thông qua một cuộc phỏng vấn với TechCrunch, ông đã chỉ ra sự thiếu minh bạch trong chi tiêu cho AI, khiến nó trở thành trở ngại đáng kể khi chi tiêu cho AI tiếp tục tăng cao. Những thách thức này có thể được giảm thiểu với sự hỗ trợ của bộ sản phẩm tập trung vào AI mới của Cloudflare.

Ví dụ: Workers AI được thiết kế đặc biệt để đảm bảo việc suy luận AI luôn diễn ra trên các GPU gần với người dùng về mặt địa lý. Phối hợp với ONNX, bộ công cụ máy học trung gian của Microsoft, sản phẩm này cho phép các mô hình AI chạy trong đó quá trình xử lý được hưởng lợi nhiều nhất từ ​​các thông số như băng thông, độ trễ, khả năng kết nối và bản địa hóa.

Bổ sung cho lợi ích của Workers AI là khả năng cho phép các mô hình từ danh mục bao gồm Llama 2 của Meta, mô hình nhận dạng giọng nói tự động, phân loại hình ảnh và mô hình phân tích cảm xúc. Ngoài ra, mọi dữ liệu được sử dụng để suy luận đều nằm trong khu vực máy chủ mà nó bắt nguồn từ đó, duy trì tính toàn vẹn và an toàn của dữ liệu.

Một điểm nổi bật khác của bộ phần mềm này là Vectorize, cung cấp một không gian thích hợp cho những khách hàng cần không gian để lưu trữ các phần nhúng vectơ cho các mô hình AI. Mặc dù cơ sở dữ liệu vectơ không phải là mới, nhưng Prince tuyên bố rằng Vectorize có được lợi thế nhờ khả năng tiếp cận toàn cầu của mạng Cloudflare. Điều này cho phép các truy vấn cơ sở dữ liệu từ người dùng mang lại độ trễ và thời gian suy luận thấp hơn.

Cổng AI là phần cuối cùng của bộ cải tiến này, cung cấp các chức năng quan sát để giúp theo dõi lưu lượng truy cập AI trong thời gian thực. Nó giám sát số lượng yêu cầu suy luận, thời lượng của chúng, số lượng người dùng sử dụng mô hình và tổng chi phí để chạy một ứng dụng AI.

Sau khi hợp tác với công ty khởi nghiệp AI Hugging Face và Databricks để tối ưu hóa các dịch vụ của mình, Cloudflare dự định sử dụng cơ sở hạ tầng toàn cầu của riêng mình để đảm bảo tăng hiệu suất và khả năng chi trả cho các dịch vụ AI của mình. Bằng cách tích hợp các khả năng AI được nhúng sâu với nền tảng phát triển ứng dụng no-code mạnh mẽ của AppMaster, các doanh nghiệp có thể mở khóa những đột phá mới hơn về quy trình và hiệu suất AI.

Mặc dù các giải pháp AI đã tồn tại trên thị trường nhưng Prince tin chắc rằng sự kết hợp giữa mạng của Cloudflare và các dịch vụ có thể truy cập cùng với giao diện trực quan của AppMaster sẽ đáp ứng nhu cầu của các nhà phát triển và tổ chức một cách hiệu quả, hợp lý và tiết kiệm chi phí hơn.