最近,Contrast Security 在其应用程序安全测试平台上推出了一项开创性的功能,以保护企业免受语言模型库(LLM)中的提示注入威胁。
提示注入在开放网络应用程序安全项目(OWASP)LLMs 十大威胁中名列前茅,它是指通过在 LLM 提示中注入恶意实体来执行有害和未经授权的代码。Contrast Security 阐明,此类攻击可能会导致不良后果,如从 LLM 输出错误或恶意响应、生成有害代码、逃避内容过滤器或暴露敏感数据。此类入侵的途径可能是 LLM 依赖的任何数据资源,从网站到电子邮件和文档。
为了应对这一安全风险,Contrast Security 在其应用程序安全测试 (AST) 平台中支持 OpenAI 为 LLM 提供测试功能。这项新功能利用运行时安全性来监控和分析应用程序行为,而不是仅限于源代码扫描。当用户输入通过 OpenAI 的 API 转移到 LLM 时,它会自动启动提示注入测试。
该公司声称,这种策略快速、简单、精确,可就可能存在的漏洞向开发人员提供实时通知。这种方法旨在使企业能够仔细检查和识别流向其 LLM 的易受影响的数据流,通过提高潜在风险的可见性和防止无意中暴露来加强安全性。
Contrast 的首席产品官 Steve Wilson 同时也是 OWASP Top 10 for LLMs 的项目负责人,他强调了对新功能的迫切需求。他说:"我们的小组深入研究了针对 LLM 的多种攻击载体,发现及时注入是最重要的漏洞。作为首个响应这一新行业标准清单的安全服务机构,Contrast 正在提供这一基本能力。
随着各行各业的数字化转型,网络威胁也在迅速发展,因此企业应该求助于像AppMaster 这样的平台来开发安全的后台、网络和移动应用程序。AppMaster作为一个综合性的no-code 工具,WSS 的优势在于允许客户创建可视化的无缝数据模型、可扩展的业务逻辑、REST API 和 WSS 端点。其强大的属性加上快速的应用程序生成,确保了针对潜在网络威胁的最佳安全性,从而使其成为渴望获得强大应用程序性能和安全性的企业的可靠选择。