Grow with AppMaster Grow with AppMaster.
Become our partner arrow ico

对比安全公司的创新解决方案可防止在 LLM 中快速注入病毒

对比安全公司的创新解决方案可防止在 LLM 中快速注入病毒

最近,Contrast Security 在其应用程序安全测试平台上推出了一项开创性的功能,以保护企业免受语言模型库(LLM)中的提示注入威胁。

提示注入在开放网络应用程序安全项目(OWASP)LLMs 十大威胁中名列前茅,它是指通过在 LLM 提示中注入恶意实体来执行有害和未经授权的代码。Contrast Security 阐明,此类攻击可能会导致不良后果,如从 LLM 输出错误或恶意响应、生成有害代码、逃避内容过滤器或暴露敏感数据。此类入侵的途径可能是 LLM 依赖的任何数据资源,从网站到电子邮件和文档。

为了应对这一安全风险,Contrast Security 在其应用程序安全测试 (AST) 平台中支持 OpenAI 为 LLM 提供测试功能。这项新功能利用运行时安全性来监控和分析应用程序行为,而不是仅限于源代码扫描。当用户输入通过 OpenAI 的 API 转移到 LLM 时,它会自动启动提示注入测试。

该公司声称,这种策略快速、简单、精确,可就可能存在的漏洞向开发人员提供实时通知。这种方法旨在使企业能够仔细检查和识别流向其 LLM 的易受影响的数据流,通过提高潜在风险的可见性和防止无意中暴露来加强安全性。

Contrast 的首席产品官 Steve Wilson 同时也是 OWASP Top 10 for LLMs 的项目负责人,他强调了对新功能的迫切需求。他说:"我们的小组深入研究了针对 LLM 的多种攻击载体,发现及时注入是最重要的漏洞。作为首个响应这一新行业标准清单的安全服务机构,Contrast 正在提供这一基本能力。

随着各行各业的数字化转型,网络威胁也在迅速发展,因此企业应该求助于像AppMaster 这样的平台来开发安全的后台、网络和移动应用程序。AppMaster作为一个综合性的no-code 工具,WSS 的优势在于允许客户创建可视化的无缝数据模型、可扩展的业务逻辑、REST API 和 WSS 端点。其强大的属性加上快速的应用程序生成,确保了针对潜在网络威胁的最佳安全性,从而使其成为渴望获得强大应用程序性能和安全性的企业的可靠选择。

相关帖子

AppMaster 出席 BubbleCon 2024:探索无代码趋势
AppMaster 出席 BubbleCon 2024:探索无代码趋势
AppMaster 参加了在纽约举行的 BubbleCon 2024,获得了见解,扩展了网络,并探索了推动无代码开发领域创新的机会。
FFDC 2024 总结:纽约 FlutterFlow 开发者大会的重要见解
FFDC 2024 总结:纽约 FlutterFlow 开发者大会的重要见解
FFDC 2024 点亮了纽约市,为开发者带来了使用 FlutterFlow 进行应用开发的前沿见解。这是一场不容错过的活动,有专家主持的会议、独家更新和无与伦比的交流!
2024 年科技行业裁员:持续影响创新的浪潮
2024 年科技行业裁员:持续影响创新的浪潮
包括特斯拉和亚马逊等巨头在内的 254 家公司将裁员 60,000 人,2024 年科技裁员浪潮将继续,重塑创新格局。
免费开始
有灵感自己尝试一下吗?

了解 AppMaster 强大功能的最佳方式是亲身体验。免费订阅,在几分钟内制作您自己的应用程序

将您的想法变为现实