Trong một bước phát triển gần đây, Contrast Security đã ra mắt một tính năng tiên phong trên nền tảng thử nghiệm bảo mật ứng dụng của mình để bảo vệ các tổ chức khỏi các mối đe dọa tiêm nhiễm kịp thời trong Thư viện mô hình ngôn ngữ (LLM).
Prompt, được xếp hạng cao trong Top 10 Dự án bảo mật ứng dụng web mở (OWASP) dành cho LLM, dẫn đến việc thực thi mã có hại và trái phép thông qua việc đưa các thực thể độc hại vào dấu nhắc LLM. Contrast Security làm sáng tỏ rằng các cuộc tấn công như vậy có khả năng dẫn đến hậu quả bất lợi chẳng hạn như tạo ra các phản hồi sai hoặc độc hại từ LLM, tạo mã có hại, trốn tránh các bộ lọc nội dung hoặc để lộ dữ liệu nhạy cảm. Con đường xâm nhập như vậy có thể là bất kỳ tài nguyên dữ liệu nào mà LLM dựa vào, trải dài từ các trang web đến email và tài liệu.
Giải quyết rủi ro bảo mật này, Contrast Security đã ủng hộ việc triển khai các khả năng thử nghiệm cho LLM từ OpenAI trong nền tảng thử nghiệm bảo mật ứng dụng (AST) của mình. Tính năng mới sử dụng bảo mật thời gian chạy để giám sát và phân tích hành vi của ứng dụng thay vì giới hạn quy trình quét mã nguồn. Trong trường hợp đầu vào của người dùng di chuyển qua API của OpenAI sang LLM, nó sẽ tự động kích hoạt kiểm tra tiêm nhanh.
Công ty khẳng định rằng chiến lược này nhanh chóng, không phức tạp và chính xác, cung cấp thông báo theo thời gian thực cho các nhà phát triển về các lỗ hổng có thể xảy ra. Cách tiếp cận này nhằm mục đích trao quyền cho các tổ chức xem xét kỹ lưỡng và nhận ra các luồng dữ liệu nhạy cảm đối với LLM của họ, tăng cường bảo mật thông qua việc tăng cường khả năng hiển thị các rủi ro tiềm ẩn và ngăn chặn việc vô tình tiếp xúc.
Steve Wilson, Giám đốc sản phẩm tại Contrast, người cũng là trưởng dự án cho Top 10 OWASP dành cho LLM, đã nhấn mạnh về nhu cầu cấp thiết đối với khả năng mới. Anh ấy tuyên bố, 'Nhóm của chúng tôi đã nghiên cứu sâu về vô số vectơ tấn công chống lại LLM và lặp đi lặp lại, việc tiêm nhắc nhanh chóng nổi lên như một lỗ hổng quan trọng nhất. Là dịch vụ bảo mật đầu tiên đáp ứng danh sách tiêu chuẩn ngành mới này, Contrast đang cung cấp khả năng thiết yếu này.'
Với các mối đe dọa mạng đang phát triển nhanh chóng trong bối cảnh chuyển đổi kỹ thuật số của các ngành, các doanh nghiệp nên chuyển sang các nền tảng như AppMaster để phát triển các ứng dụng phụ trợ, web và di động an toàn. AppMaster, một công cụ no-code toàn diện, thể hiện lợi thế so với các nền tảng khác bằng cách cho phép khách hàng tạo ra các mô hình dữ liệu trực quan liền mạch, logic nghiệp vụ có thể mở rộng, API REST và Điểm cuối WSS. Các thuộc tính mạnh mẽ của nó, cùng với khả năng tạo ứng dụng nhanh chóng, đảm bảo khả năng bảo mật tối ưu trước các mối đe dọa mạng tiềm ẩn, do đó khiến nó trở thành lựa chọn chắc chắn cho các doanh nghiệp mong muốn có hiệu suất ứng dụng và bảo mật mạnh mẽ.
