OpenAI由于准确率低而停止其AI书写检测器

2023-07-28 14:03:26 互联网

(资料图)

导读周四，OpenAI 悄然撤回了其 AI 分类器，这是一种旨在检测 AI 编写的文本的实验工具。Decrypt最先注意到了此次停用，但并没有大张旗鼓...

周四，OpenAI 悄然撤回了其 AI 分类器，这是一种旨在检测 AI 编写的文本的实验工具。Decrypt最先注意到了此次停用，但并没有大张旗鼓地进行，而是通过 OpenAI 官方AI 分类器网页上添加的一条小注释宣布的：

自 2023 年 7 月 20 日起，AI 分类器由于准确率较低而不再可用。我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。

OpenAI 的 AI分类器于 1 月 31 日发布，当时教育工作者强烈反对学生可能使用 ChatGPT 来撰写论文和作业，OpenAI 的 AI 分类器总是感觉像是深深伤口上的一块表演创可贴。从一开始，OpenAI 就承认其 AI 分类器并不“完全可靠”，仅将 26% 的 AI 编写文本正确识别为“可能由 AI 编写”，并在 9% 的情况下错误地标记了人类编写的作品。

正如我们在 Ars 上指出的那样，AI 写作检测器(例如 OpenAI 的 AI 分类器、Turnitin 和 GPTZero)根本无法以足够的精度运行，无法依靠它们来获得值得信赖的结果。它们的工作方式背后的方法是推测性的且未经证实的，这些工具目前经常被用来错误地指控学生作弊。

人类可以像人工智能模型一样写作，如果得到适当的提示，人工智能模型也可以像人类一样写作。通常，躲避人工智能检测器所需要做的就是简单地要求 ChatGPT 以已知作者的风格进行写作。但这并没有阻止商业人工智能探测器的小型产业在过去六个月中蓬勃发展。

人工智能作家兼未来学家丹尼尔·杰弗里斯 (Daniel Jeffries)在推特上写道：“如果 OpenAI 无法让其人工智能检测工具发挥作用，那么其他人也做不到。” “我之前说过，人工智能检测工具是卖给人们的万金油，这只是进一步证明它们的存在。不要相信它们。它们是无稽之谈。”

到目前为止，这些陈述得到了最近的研究(Sadasivan等人，2023)和教育工作者的证言的支持，他们经常发现自己的人类撰写的作品被标记为人工智能撰写的。此外，人工智能写作检测器被发现会不公平地惩罚非英语母语作家和可能存在神经分歧的作家。

标签：