Mạng điện toán AI phi tập trung và các công cụ MLOps được kết hợp trong Chiến dịch gây quỹ trị giá 11,5 triệu đô la của FedML

Dẫn đầu bởi Salman Avestimehr, giám đốc mới khai trương của Trung tâm USC-Amazon về Học máy đáng tin cậy, một công ty khởi nghiệp đổi mới hứa hẹn một con đường giúp các doanh nghiệp dễ dàng đào tạo, tinh chỉnh, giám sát và nâng cao các mô hình AI trên đám mây hoặc ở vùng biên. FedML, tên của liên doanh đầy triển vọng này, đã huy động thành công 11,5 triệu đô la tiền tài trợ hạt giống, định giá công ty ở mức 56,5 triệu đô la. Vòng gọi vốn do Camford Capital thực hiện với sự tham gia của Road Capital và Finality Capital.

Một số lượng lớn các doanh nghiệp quan tâm đến việc đào tạo hoặc điều chỉnh các mô hình AI riêng biệt trên dữ liệu cấp ngành hoặc dữ liệu cụ thể của công ty để đáp ứng nhiều yêu cầu kinh doanh, Avestimehr đã chuyển tải trong một cuộc phỏng vấn qua email tới TechCrunch. Tuy nhiên, ông cũng nhấn mạnh rằng "Các mô hình AI tùy chỉnh được cho là tốn kém để phát triển và duy trì do chi phí cơ sở hạ tầng đám mây nghiêm trọng, dữ liệu tăng cao và chi phí kỹ thuật. Ngoài ra, dữ liệu độc quyền cần thiết để đào tạo các mô hình AI theo yêu cầu thường được tách biệt, quy định hoặc nhạy cảm."

Tuy nhiên, FedML cung cấp một giải pháp khả thi. Theo Avestimehr, FedML đã đưa ra một nền tảng AI hợp tác giúp trao quyền cho các nhà phát triển và doanh nghiệp cùng nhau thực hiện các nhiệm vụ AI bằng cách chia sẻ mô hình, tài nguyên điện toán và dữ liệu.

FedML có khả năng thực thi bất kỳ số lượng mô hình AI tùy chỉnh nào hoặc những mô hình có nguồn gốc từ cộng đồng nguồn mở. Với nền tảng của FedML, khách hàng có thể thành lập một nhóm cộng tác viên và tự động đồng bộ hóa các ứng dụng AI trên các thiết bị như PC. Các cộng sự có thể kết hợp các thiết bị được sử dụng để đào tạo mô hình AI, chẳng hạn như thiết bị di động hoặc máy chủ và có khả năng theo dõi tiến trình đào tạo trong thời gian thực.

Gần đây, FedLLM, một quy trình xây dựng để tạo các mô hình ngôn ngữ lớn dành riêng cho miền (LLM) là GPT-4 của OpenAI trên dữ liệu độc quyền, đã được FedML phát hành. Tương thích với các thư viện LLM phổ biến như DeepSpeed ​​của Microsoft và Hugging Face's, FedLLM được tạo ra để tăng tốc độ phát triển AI tùy chỉnh đồng thời đảm bảo tính bảo mật và quyền riêng tư, Avestimehr cho biết.

Giống như nhiều nền tảng MLOps khác như Galileo và Arize hoặc thậm chí là những nền tảng đương nhiệm như AWS, Microsoft và Google Cloud, FedML hỗ trợ hợp lý hóa quy trình triển khai các mô hình AI vào sản xuất, sau đó duy trì và giám sát chúng. Tuy nhiên, FedML chứa đựng những khát vọng vượt ra ngoài AI và công cụ mô hình máy học.

Avestimehr cho rằng mục tiêu chính là phát triển một cộng đồng tài nguyên CPU và GPU để lưu trữ và phục vụ các mô hình khi chúng sẵn sàng triển khai. Trong khi các chi tiết cụ thể vẫn đang được thảo luận, FedML có kế hoạch khuyến khích người dùng đóng góp điện toán cho nền tảng thông qua mã thông báo hoặc các hình thức đền bù thay thế.

Mặc dù tính toán phân tán, phi tập trung để phục vụ mô hình AI không phải là điều mới lạ, nhưng với Run.AI, Gensys và Petals đã nỗ lực, Avestimehr tự tin rằng FedML có thể đạt được thành công lớn hơn bằng cách hợp nhất mô hình tính toán này với bộ MLOps.

FedML tạo điều kiện thuận lợi cho các mô hình AI đặt trước bằng cách cho phép các doanh nghiệp và nhà phát triển xây dựng LLM quy mô lớn, riêng tư và độc quyền với chi phí thấp, Avestimehr khẳng định. Hơn nữa, ông nhấn mạnh vào điểm bán hàng độc đáo của FedML, Đào tạo, triển khai, giám sát và tinh chỉnh các mô hình ML ở mọi nơi trong khi cộng tác trên dữ liệu, mô hình và điện toán được hợp nhất — giảm đáng kể chi phí và thời gian đưa ra thị trường.

Với những tiến bộ này, sẽ không có gì ngạc nhiên nếu FedML đánh bại MLOps, ngành công nghiệp AI như một cơn bão, gia nhập hàng ngũ với các nền tảng như nền tảng không mã AppMaster , được biết đến với những đóng góp sáng tạo và công cụ mang tính cách mạng trong ngành công nghệ.