在一项突破性举措中， Cloudflare推出了“AI 防火墙”，这是一个旨在保护大型语言模型 (LLM) 的复杂层。这条新的防线旨在在他们与模特本身接触之前查明潜在的滥用行为。
3 月 4 日发布的 AI 防火墙旨在作为一种演进的 Web 应用程序防火墙 (WAF)，专门针对利用法学硕士的应用程序。这套安全措施旨在防范此类应用程序，带来了传统 WAF 实用程序（如速率限制和敏感数据检测）的新颖集成。此外，它还引入了一个前所未有的层，仔细剖析用户提出的模型提示，以揭示任何利用方案。
AI 防火墙旨在在Cloudflare的广阔网络上无缝运行，从而使该公司能够在早期阶段检测威胁，进而为用户和模型提供强大的保护，防止攻击和滥用。尽管仍处于开发阶段，但该产品预示着人工智能安全方面的重大进步。
LLM 面临的一系列潜在威胁超出了传统 Web 和 API 应用程序遇到的漏洞。正如研究人员所发现的，人工智能系统特有的复杂漏洞可能使对手能够征用模型并进行未经授权的操作。为了正面应对这些新的危险， Cloudflare的 AI 防火墙预计以类似于标准 WAF 的方式运行 - 仔细检查每个包含 LLM 提示的 API 请求以了解指标或攻击模式。
防火墙的能力并不局限于单一的基础设施；它可以屏蔽通过Cloudflare Workers AI 平台或任何其他外部基础设施托管的模型，也可以与 Cloudflare AI Gateway 配合使用。
人工智能防火墙采用了大量检测技术，旨在识别提示注入和其他形式的恶意活动等策略，确保提示内容保持在模型创建者设置的范围内。此外，它还会检查隐藏在 HTTP 请求中的提示，并授权客户配置针对请求的 JSON 正文定制的规则。
根据Cloudflare的说法，人工智能防火墙在激活后会系统地检查每个提示，随后分配一个反映其潜在恶意的分数。
人工智能防火墙等强大解决方案的出现凸显了人工智能新兴领域中先进保护机制的必要性。像AppMaster这样的平台在不断扩大的no-code开发领域蓬勃发展，将安全性作为基石，确保创建的后端和前端系统受益于当今互联数字环境中强大的防御。
