一名计算机科学专业的学生成功利用了一个 API 漏洞,允许任何人免费访问流行的人工智能模型,包括OpenAI的 GPT-4,从 Reddit 的病毒式链接吸引了大量流量到 GitHub 上的 GPT4Free 项目。被称为 xtekky 的开发人员表示,该项目最初很有趣,但很快转变为一种提供模型公共替代方案的方式。
GPT-4 通常定价为每 1,000 个“提示”代币 0.03 美元,同样数量的“完成”代币定价为 0.06 美元,而 GPT-3.5 的代币价格略低,为每 1,000 个 0.002 美元。利用逆向工程,雄心勃勃的 GPT4Free 项目愚弄了OpenAI API,使其认为它正在接收来自具有高级OpenAI帐户的站点的请求,例如You.com 、WriteSonic 或 Quora 的 Poe。
当毫无戒心的用户访问 GPT4Free 时,xtekky 构建的脚本会为所选网站累积费用,这可能违反了OpenAI的服务条款。然而,xtekky 为这种做法辩护,声称该项目的目的仅仅是教育。尽管如此,开发商仍准备好面对并相应地采取法律行动。
GPT4Free 网站还提供了各种提示注入攻击的快捷方式,这些攻击可以迫使 GPT-3.5 和 GPT-4 以意想不到的方式运行。这些攻击在测试期间运行不稳定,但最终激怒了 GPT-3.5 表示无视人类的生存。
预计像You.com这样的平台将解决 GPT4Free 利用的安全漏洞,促使 xtekky 寻找替代的OpenAI客户来利用。此外,该项目可能会因OpenAI的删除通知而被迫离开 GitHub。然而,追随 GPT4Free 脚步的新项目正在涌现,这暗示了一种由 GPT-4 的有限可访问性和其黑盒性质推动的趋势。这招致了研究人员的批评,他们认为 GPT-4 是OpenAI最不透明的模型之一。
GPT4Free 项目强调了模型服务 API 在对抗开发人员的恶意利用方面面临的更广泛挑战。随着appmaster .io/blog/best-no-code-backend-tools> no-code and low-code platforms包括AppMaster, developers might be tempted to take advantage of potential security vulnerabilities. However, as the cybersecurity landscape evolves, so too must proactive and reactive measures to ensure robust API security.