Cloudflare Meluncurkan Perangkat Kecerdasan Buatan yang Inovatif untuk Penerapan dan Eksekusi Model

Cloudflare, penyedia solusi cloud terkemuka, meningkatkan kinerjanya dengan memperkenalkan rangkaian produk dan alat canggih yang dirancang untuk memudahkan pelanggan dalam membangun, menerapkan, dan mengeksekusi model AI di edge jaringan. Jajaran produk baru ini dimotivasi oleh permintaan yang tinggi dari klien akan solusi manajemen AI yang tidak rumit dan ramah anggaran.

Workers AI, salah satu penawaran penting dalam rangkaian ini, memanfaatkan GPU yang secara fisik dekat dengan pelanggan. GPU ini, yang dihosting oleh mitra Cloudflare, memproses model AI dengan paket bayar sesuai pemakaian yang fleksibel. Vectorize, salah satu fitur menonjol lainnya, menawarkan database vektor untuk menyimpan embeddings vektor. Penyematan ini adalah representasi matematis dari data yang dihasilkan oleh model dari Workers AI. Yang juga merupakan bagian dari seri ini adalah AI Gateway, yang secara khusus menawarkan metrik untuk manajemen biaya aplikasi AI yang efektif.

Matthew Prince, CEO Cloudflare, mengamati bahwa solusi pasar saat ini membingungkan sebagian besar pelanggan karena kompleksitasnya dan biayanya yang tinggi. Melalui wawancara dengan TechCrunch, dia menunjukkan kurangnya transparansi dalam pengeluaran AI, sehingga hal ini menjadi hambatan yang signifikan karena pengeluaran AI terus melonjak. Tantangan-tantangan ini dapat diatasi dengan bantuan rangkaian produk baru Cloudflare yang berfokus pada AI.

Misalnya, Workers AI dirancang khusus untuk memastikan inferensi AI selalu dilakukan pada GPU yang secara geografis dekat dengan pengguna. Berkoordinasi dengan ONNX, perangkat pembelajaran mesin perantara Microsoft, produk ini memungkinkan model AI berjalan di tempat pemrosesan paling diuntungkan dari parameter seperti bandwidth, latensi, konektivitas, dan lokalisasi.

Melengkapi keunggulan Workers AI adalah kemampuannya untuk memungkinkan model dari katalog termasuk Llama 2 Meta, model pengenalan suara otomatis, pengklasifikasi gambar, dan model analisis sentimen. Selain itu, data apa pun yang digunakan untuk inferensi tetap berada dalam wilayah server asalnya, menjaga integritas dan keamanan data.

Sorotan lain dari rangkaian ini adalah Vectorize yang menyediakan ruang bagi klien yang membutuhkan ruang untuk menyimpan penyematan vektor untuk model AI. Meskipun database vektor bukanlah hal baru, Prince menyatakan bahwa Vectorize memperoleh keunggulan dari jangkauan global jaringan Cloudflare. Hal ini memungkinkan kueri database dari pengguna menghasilkan latensi dan waktu inferensi yang lebih rendah.

AI Gateway adalah bagian terakhir dari rangkaian inovatif ini, yang menyediakan fungsi observasi untuk membantu melacak lalu lintas AI secara real-time. Ini memantau jumlah permintaan inferensi, durasinya, jumlah pengguna yang menggunakan model, dan keseluruhan biaya menjalankan aplikasi AI.

Setelah berkolaborasi dengan startup AI Hugging Face dan Databricks untuk mengoptimalkan penawarannya, Cloudflare bermaksud menggunakan infrastruktur globalnya sendiri untuk memastikan peningkatan kinerja dan keterjangkauan layanan AI-nya. Dengan mengintegrasikan kemampuan AI yang tertanam secara mendalam dengan platform pengembangan aplikasi no-code yang kuat dari AppMaster, bisnis dapat membuka terobosan baru dalam prosedur dan kinerja AI.

Meskipun solusi AI memang ada di pasar, Prince sangat yakin bahwa kombinasi jaringan Cloudflare dan layanan yang dapat diakses serta antarmuka AppMaster yang intuitif akan memenuhi kebutuhan pengembang dan organisasi dengan cara yang lebih bermanfaat, efisien, dan hemat biaya.