OpenAI 的 ChatGPT 在短短七周内迅速成为 AI 聚光灯下的焦点，引发了关于该技术可能导致剽窃、幻觉以及随后对学术界影响的讨论。作为一种擅长生成极具说服力的文本响应的 AI 语言模型，ChatGPT 展示了说唱、押韵、解决复杂数学问题甚至编写计算机代码的显着能力。
Stephen Marche's文章The College Essay Is Dead强调了学术界对人工智能将如何改变教育格局的准备不足。然而，西雅图和纽约市的公立学区已经采取了针对 ChatGPT 剽窃威胁的初步措施。此外，技术进步提供了检测生成人工智能使用的能力。
在新的一年里，普林斯顿大学计算机科学专业的 Edward Tian 开发了 GPTZero，这是一款旨在有效检测给定文本是由 ChatGPT 还是人类编写的应用程序。 GPTZero 分析了两个文本特征：困惑性和突发性。田发现，与人类文学相比，ChatGPT 生成的文本更简单、长度更一致。
虽然并不完美，但 GPTZero 显示出令人鼓舞的结果。 Tian 正在与学校董事会和奖学金基金讨论向 300,000 所学校和资助机构提供 GPTZeroX。除了 GPTZero，开发人员正在创建工具来对抗幻觉，这是 ChatGPT 突出引起的另一个问题。
Got It AI 的 Peter Relan 是一家专门从事定制对话式 AI 解决方案的公司，他强调像 ChatGPT 这样的大型语言模型将不可避免地产生幻觉。 ChatGPT 的幻觉率目前为 15% 到 20%，但检测模型何时出现幻觉将导致提供更准确的响应。
上周，Got It AI 宣布了 Autonomous Articlebot 的一个新的真相检查组件的私人预览版，该组件使用经过训练的大型语言模型来识别 ChatGPT 和其他模型所说的谎言。该真值核查器目前的准确率高达 90%，有效地将 ChatGPT 的整体准确率提升至 98%。
虽然完全消除会话人工智能系统的幻觉是不现实的，但尽量减少幻觉的发生是有道理的。 ChatGPT 的制造商 OpenAI 尚未发布大型语言模型的 API。但是，底层模型 GPT-3 有可用的 API。 Got It AI 的真相检查器可以与最新的 GPT-3 版本 davinci-003 一起使用。
Relan 相信 OpenAI 将解决核心平台产生幻觉的倾向，在降低 ChatGPT 的错误率方面已经有了显着的改进。 OpenAI 面临的首要挑战是随着时间的推移降低其幻觉率。
借助 GPTZero 和 Got It AI 的真实性检查器等工具，可以减轻 AI 在剽窃和幻觉方面的威胁。随着 AI 透明度和准确性的进步， AppMaster等平台继续帮助从小型企业到企业的广泛用户加速后端、Web 和移动应用程序的开发。
