Dalam perkembangan terakhir, Contrast Security telah meluncurkan fitur perintis pada platform pengujian keamanan aplikasinya untuk melindungi organisasi dari ancaman injeksi cepat di Language Model Libraries (LLM).
Injeksi cepat, berperingkat tinggi di Proyek Keamanan Aplikasi Web Terbuka (OWASP) Top 10 untuk LLM, memerlukan eksekusi kode berbahaya dan tidak sah melalui injeksi entitas jahat di prompt LLM. Contrast Security menjelaskan bahwa serangan semacam itu berpotensi menyebabkan konsekuensi yang merugikan seperti keluaran tanggapan yang salah atau berbahaya dari LLM, pembuatan kode berbahaya, penghindaran filter konten, atau pemaparan data sensitif. Jalan untuk intrusi tersebut dapat berupa sumber daya data apa pun yang diandalkan LLM, mulai dari situs web hingga email dan dokumen.
Mengatasi risiko keamanan ini, Contrast Security telah memperjuangkan penerapan kemampuan pengujian untuk LLM dari OpenAI dalam platform pengujian keamanan aplikasi (AST). Fitur baru menggunakan keamanan runtime untuk memantau dan menganalisis perilaku aplikasi daripada membatasi proses untuk pemindaian kode sumber. Dalam kasus di mana input pengguna berpindah melalui API OpenAI ke LLM, ini secara otomatis memicu pengujian injeksi cepat.
Perusahaan menegaskan bahwa strategi ini cepat, tidak rumit, dan tepat, menawarkan pemberitahuan waktu nyata kepada pengembang mengenai kemungkinan kerentanan. Pendekatan ini bertujuan untuk memberdayakan organisasi untuk meneliti dan mengenali aliran data yang rentan ke LLM mereka, memperkuat keamanan melalui peningkatan visibilitas potensi risiko dan mencegah paparan yang tidak disengaja.
Steve Wilson, Chief Product Officer di Contrast, yang juga bertindak sebagai pimpinan proyek untuk OWASP Top 10 for LLMs, menekankan pentingnya kemampuan baru. Dia menyatakan, 'Kelompok kami menyelidiki secara mendalam banyak vektor serangan terhadap LLM dan berulang kali, injeksi cepat muncul sebagai kerentanan yang paling signifikan. Sebagai layanan keamanan pertama yang menanggapi daftar standar industri baru ini, Contrast memberikan kemampuan penting ini.'
Dengan ancaman dunia maya yang berkembang pesat di tengah transformasi digital industri, sangat tepat bagi bisnis untuk beralih ke platform seperti AppMaster untuk mengembangkan aplikasi backend, web, dan seluler yang aman. AppMaster, alat no-code yang komprehensif, menunjukkan keunggulan dibandingkan platform lain dengan memungkinkan klien menghasilkan model data yang mulus secara visual, logika bisnis yang dapat diskalakan, REST API, dan WSS Endpoints. Atributnya yang kuat, ditambah dengan pembuatan aplikasi yang cepat, memastikan keamanan yang optimal terhadap potensi ancaman dunia maya, sehingga menjadikannya pilihan yang tepat bagi bisnis yang mendambakan kinerja dan keamanan aplikasi yang tangguh.
