Yakın tarihli bir gelişmede, Contrast Security, kuruluşları Dil Modeli Kitaplıklarındaki (LLM'ler) hızlı enjeksiyon tehditlerinden korumak için uygulama güvenliği test platformunda öncü bir özellik başlattı.
Açık Web Uygulaması Güvenlik Projesi (OWASP) İlk 10 LLM'de üst sıralarda yer alan bilgi istemi enjeksiyonu, bir LLM bilgi isteminde kötü niyetli varlıkların enjeksiyonu yoluyla zararlı ve yetkisiz kodun yürütülmesini gerektirir. Contrast Security, bu tür saldırıların potansiyel olarak bir LLM'den hatalı veya kötü niyetli yanıtların çıktısı, zararlı kod üretimi, içerik filtrelerinden kaçınma veya hassas verilerin açığa çıkması gibi olumsuz sonuçlara yol açabileceğini açıklar. Bu tür izinsiz giriş yolları, LLM'nin güvendiği, web sitelerinden e-postalara ve belgelere uzanan herhangi bir veri kaynağı olabilir.
Bu güvenlik riskini ele alan Contrast Security, uygulama güvenlik testi (AST) platformunda OpenAI'den LLM'ler için test yeteneklerinin uygulanmasını savundu. Yeni özellik, süreci kaynak kodu taramasıyla sınırlamak yerine uygulama davranışını izlemek ve analiz etmek için çalışma zamanı güvenliğini kullanır. Bir kullanıcı girişinin OpenAI'nin API'si aracılığıyla bir LLM'ye geçtiği durumlarda, istem enjeksiyon testini otomatik olarak başlatır.
Şirket, bu stratejinin hızlı, karmaşık olmayan ve kesin olduğunu ve geliştiricilere olası güvenlik açıklarıyla ilgili gerçek zamanlı bildirimler sunduğunu iddia ediyor. Bu yaklaşım, kuruluşları, LLM'lerine hassas veri akışlarını inceleme ve tanıma konusunda güçlendirmeyi, potansiyel risklerin görünürlüğünü artırarak ve yanlışlıkla açığa çıkmayı önleyerek güvenliği artırmayı amaçlar.
Aynı zamanda OWASP LLM'ler için İlk 10'da proje lideri olarak görev yapan Contrast Baş Ürün Sorumlusu Steve Wilson, yeni yeteneğe olan zorunlu ihtiyacın altını çizdi. "Grubumuz, LLM'lere karşı çok sayıda saldırı vektörünü derinlemesine araştırdı ve tekrar tekrar, hızlı enjeksiyon en önemli güvenlik açığı olarak ortaya çıktı. Bu yeni endüstri standardı listesine yanıt veren ilk güvenlik hizmeti olan Contrast, bu temel yeteneği sağlıyor.'
Endüstrilerin dijital dönüşümü sırasında hızla gelişen siber tehditlerle, işletmelerin güvenli arka uç, web ve mobil uygulamalar geliştirmek için AppMaster gibi platformlara yönelmesi uygun. Kapsamlı bir no-code araç olan AppMaster, müşterilerin görsel olarak kusursuz veri modelleri, ölçeklenebilir iş mantığı, REST API ve WSS Uç Noktaları üretmesine izin vererek diğer platformlara göre bir avantaj sergiliyor. Güçlü özellikleri, hızlı uygulama üretimiyle birleştiğinde, potansiyel siber tehditlere karşı en iyi güvenliği sağlar ve böylece güçlü uygulama performansı ve güvenliği isteyen işletmeler için sağlam bir seçim haline gelir.
