Dalam sebuah inisiatif terobosan, Cloudflare telah meluncurkan 'Firewall untuk AI', sebuah lapisan canggih yang dirancang untuk melindungi Model Bahasa Besar (LLM). Garis pertahanan baru ini bertujuan untuk menunjukkan potensi pelanggaran bahkan sebelum mereka melakukan kontak dengan model itu sendiri.
Diungkapkan pada tanggal 4 Maret, Firewall untuk AI dirancang untuk berfungsi sebagai firewall aplikasi web (WAF) yang dikembangkan secara khusus melayani aplikasi yang memanfaatkan LLM. Rangkaian tindakan keamanan ini, disusun untuk berjaga-jaga terhadap aplikasi semacam itu, menghadirkan integrasi baru dari utilitas WAF konvensional seperti pembatasan kecepatan dan deteksi data sensitif. Selain itu, ia memperkenalkan lapisan yang belum pernah ada sebelumnya yang dengan cermat membedah model yang diminta oleh pengguna untuk mengungkap skema eksploitasi apa pun.
Firewall untuk AI dirancang untuk berfungsi dengan lancar di jaringan Cloudflare yang luas, sehingga memberi perusahaan keuntungan dalam mendeteksi ancaman pada tahap awal, dan pada gilirannya, memberikan perlindungan yang kuat bagi pengguna dan model terhadap serangan dan penyalahgunaan. Meskipun masih dalam tahap pengembangan, produk ini menunjukkan kemajuan signifikan dalam keamanan AI.
Rangkaian potensi ancaman terhadap LLM melampaui kerentanan yang dihadapi aplikasi web dan API konvensional. Sebagaimana diketahui oleh para peneliti, kerentanan canggih yang unik pada sistem AI dapat memungkinkan musuh mengambil alih model dan melakukan manuver tanpa izin. Untuk mengatasi bahaya baru ini secara langsung, Firewall untuk AI Cloudflare diharapkan dapat beroperasi serupa dengan WAF standar—dengan cermat memeriksa setiap permintaan API yang berisi perintah LLM untuk mengetahui indikator atau pola serangan.
Kompetensi Firewall tidak terikat pada satu infrastruktur saja; ini dapat melindungi model yang dihosting melalui platform AI Cloudflare Workers atau infrastruktur eksternal lainnya, dan juga dapat digunakan bersama dengan Cloudflare AI Gateway.
Dengan menggunakan serangkaian teknik pendeteksian, Firewall untuk AI berupaya mengidentifikasi cara-cara seperti injeksi cepat dan bentuk aktivitas berbahaya lainnya, memastikan bahwa konten perintah tetap berada dalam batasan yang ditentukan oleh pembuat model. Selain itu, ia memeriksa perintah yang tersembunyi dalam permintaan HTTP, dan memberi wewenang kepada pelanggan untuk mengonfigurasi aturan yang disesuaikan dengan isi JSON permintaan.
Setelah diaktifkan, Firewall untuk AI secara sistematis memeriksa setiap perintah, kemudian memberikan skor yang mencerminkan potensi kejahatan, menurut Cloudflare.
Munculnya solusi tangguh seperti Firewall untuk AI menyoroti pentingnya mekanisme perlindungan canggih di bidang AI yang sedang berkembang. Platform seperti AppMaster , yang berkembang pesat dalam pengembangan no-code yang terus berkembang, menjadikan keamanan sebagai landasan, memastikan bahwa sistem backend dan frontend yang dibuat mendapat manfaat dari pertahanan yang kuat dalam lanskap digital yang saling terhubung saat ini.
