ChatGPT 的崛起引发了关于 AI 抄袭、幻觉和透明度的辩论

OpenAI 的 ChatGPT 在短短七周内迅速成为 AI 聚光灯下的焦点，引发了关于该技术可能导致剽窃、幻觉以及随后对学术界影响的讨论。作为一种擅长生成极具说服力的文本响应的 AI 语言模型，ChatGPT 展示了说唱、押韵、解决复杂数学问题甚至编写计算机代码的显着能力。

Stephen Marche's文章 The College Essay Is Dead 强调了学术界对人工智能将如何改变教育格局的准备不足。然而，西雅图和纽约市的公立学区已经采取了针对 ChatGPT 剽窃威胁的初步措施。此外，技术进步提供了检测生成人工智能使用的能力。

在新的一年里，普林斯顿大学计算机科学专业的 Edward Tian 开发了 GPTZero，这是一款旨在有效检测给定文本是由 ChatGPT 还是人类编写的应用程序。 GPTZero 分析了两个文本特征：困惑性和突发性。田发现，与人类文学相比，ChatGPT 生成的文本更简单、长度更一致。

虽然并不完美，但 GPTZero 显示出令人鼓舞的结果。 Tian 正在与学校董事会和奖学金基金讨论向 300,000 所学校和资助机构提供 GPTZeroX。除了 GPTZero，开发人员正在创建工具来对抗幻觉，这是 ChatGPT 突出引起的另一个问题。

Got It AI 的 Peter Relan 是一家专门从事定制对话式 AI 解决方案的公司，他强调像 ChatGPT 这样的大型语言模型将不可避免地产生幻觉。 ChatGPT 的幻觉率目前为 15% 到 20%，但检测模型何时出现幻觉将导致提供更准确的响应。

上周，Got It AI 宣布了 Autonomous Articlebot 的一个新的真相检查组件的私人预览版，该组件使用经过训练的大型语言模型来识别 ChatGPT 和其他模型所说的谎言。该真值核查器目前的准确率高达 90%，有效地将 ChatGPT 的整体准确率提升至 98%。

虽然完全消除会话人工智能系统的幻觉是不现实的，但尽量减少幻觉的发生是有道理的。 ChatGPT 的制造商 OpenAI 尚未发布大型语言模型的 API。但是，底层模型 GPT-3 有可用的 API。 Got It AI 的真相检查器可以与最新的 GPT-3 版本 davinci-003 一起使用。

Relan 相信 OpenAI 将解决核心平台产生幻觉的倾向，在降低 ChatGPT 的错误率方面已经有了显着的改进。 OpenAI 面临的首要挑战是随着时间的推移降低其幻觉率。

借助 GPTZero 和 Got It AI 的真实性检查器等工具，可以减轻 AI 在剽窃和幻觉方面的威胁。随着 AI 透明度和准确性的进步， AppMaster等平台继续帮助从小型企业到企业的广泛用户加速后端、Web 和移动应用程序的开发。