BentoML huy động được 9 triệu đô la tài trợ hạt giống để tăng tốc phát triển ứng dụng AI

Sự gia tăng của các mô hình ngôn ngữ lớn như GPT đã tạo ra nhu cầu về các ứng dụng do AI cung cấp và nhu cầu về các nhà phát triển lành nghề để tạo ra chúng. Chaoyu Yang, cựu kỹ sư phần mềm của Databricks đã nhận thấy những lỗ hổng trong quy trình phát triển hiện tại và cùng với những người đồng sáng lập của mình, đã xây dựng khung phát triển AI, BentoML, gần đây đã kết thúc vòng tài trợ hạt giống.

Trong một cuộc phỏng vấn với TechCrunch, Yang đã giải thích sự cần thiết của khung phát triển linh hoạt mà BentoML cung cấp. Các dịch vụ AI có xu hướng dựa vào nhiều mô hình máy học, khiến việc quản lý và vận hành chúng trở nên phức tạp. Hơn nữa, nhiều lập trình viên tham gia lĩnh vực này đến từ nền tảng phát triển ứng dụng hoặc toàn bộ, thiếu các kỹ năng cần thiết để xây dựng cơ sở hạ tầng AI cần thiết. Điều này gây ra các quá trình phát triển lâu hơn và một giải pháp như BentoML có thể giảm bớt đáng kể quá trình phát triển.

Yang đã sử dụng Visual ChatGPT của Microsoft, một ứng dụng AI demo kết hợp liền mạch lời nhắc bằng văn bản và hình ảnh để tạo phản hồi, làm ví dụ. Việc phát triển một ứng dụng như Visual ChatGPT để sử dụng trong sản xuất thường mất từ ​​ba đến sáu tháng. Tuy nhiên, BentoML có thể cho phép các nhà phát triển tạo một ứng dụng như thế này có thể mở rộng và tiết kiệm chi phí chỉ trong hai ngày. Người dùng cũng đã sử dụng khung BentoML để chạy trình tạo nghệ thuật Khuếch tán ổn định và LLM nguồn mở trên đám mây.

BentoML, cung cấp API cấp cao trừu tượng hóa cơ sở hạ tầng phức tạp cần thiết để chạy các mô hình AI trên đám mây, là một phần của nhóm công cụ đang phát triển nhằm đơn giản hóa quá trình phát triển dịch vụ AI. Các khung ứng dụng AI này, bao gồm các giải pháp như SageMaker và AppMaster của AWS, cung cấp một bộ công cụ giúp đơn giản hóa quy trình xây dựng, vận chuyển và mở rộng quy mô ứng dụng AI. Đối tượng mục tiêu của BentoML bao gồm các nhà khoa học dữ liệu đào tạo các mô hình AI, các kỹ sư DevOps quản lý vòng đời của chúng và các nhà phát triển xây dựng ứng dụng dựa trên các mô hình này.

So sánh BentoML với Vercel, một công ty trị giá hàng tỷ đô la tập trung vào các nhà phát triển giao diện người dùng, Yang đặt mục tiêu BentoML trở thành Vercel của thế giới AI. Anh ấy nhận ra tốc độ phát triển ứng dụng AI đã tăng lên và sự phụ thuộc ngày càng nhiều vào việc tinh chỉnh mô hình và kỹ thuật sản phẩm hơn là đào tạo các mô hình từ đầu.

Ban đầu là nguồn mở vào năm 2019, BentoML đã giới thiệu phiên bản SaaS tự lưu trữ cho khách hàng doanh nghiệp. Công ty khởi nghiệp đã đạt được sức hút trong cộng đồng nhà phát triển, tăng gấp bốn lần số thành viên cộng đồng nguồn mở lên hơn 3.000 trong năm ngoái. Những người đầu tiên sử dụng BentoML bao gồm những gã khổng lồ mạng xã hội của Hàn Quốc Line và Naver.

Vòng tài trợ hạt giống gần đây của BentoML, được hỗ trợ bởi DCM Ventures và Bow Capital, đã huy động được 9 triệu đô la. Hurst Lin, đối tác chung của DCM, đã tham gia hội đồng quản trị của BentoML sau vòng đấu. Thị trường AI đang phát triển mang đến cả cơ hội và thách thức cho BentoML khi nhóm làm việc để cân bằng các mục tiêu ngắn hạn và dài hạn trong khi vẫn đón đầu các xu hướng đang phát triển của ngành.