标题:OpenAI静默下架其AI文本检测工具,面临准确性挑战与争议
随着OpenAI的AI文本检测工具不再对外开放,一场关于AI在学术论文抄袭检测中的有效性和道德争议也随之兴起。
尽管OpenAI未发布任何正式公告,但许多独立观察者和社区成员发现了该工具的下架。OpenAI在其半年前发布的博客页面中简短解释称,由于检测工具的准确性问题,该工具已不再可用,同时他们承诺正在寻求更有效的文本检测技术。
该工具的下架引发了社区的一些争议,部分网友对OpenAI此种无预警下架产品的行为表示不满。然而,也有一部分人,特别是学生群体,对该工具的关闭表示赞成,他们认为该工具因准确度不高,在过去的实践中曾经引发大量误判。
据OpenAI自身数据显示,该工具仅能正确识别26%的AI生成文本,且误判了9%的由人类编写的文本。此外,一些如圣经和美国宪法等历史文本被判定可能为AI编写,这进一步质疑了该工具的准确性。
教师们曾尝试使用多种方式来检查学生的作业,例如,通过查看在线文档的编辑记录。然而,聪明的学生们也可以找到规避的办法。OpenAI在生成与检测工具的开发中存在固有的矛盾,如果生成工具做得好,就可能意味着检测工具做得不好,反之亦然。
虽然一些第三方也试图开发更有效的检测工具,但他们的可靠性同样受到质疑。例如,普林斯顿的GPTZero是专为教育工作者打造的检测工具,但其作者已经放弃了对学生抄袭的检测。另一个例子是马里兰大学开发的水印法,它要求AI在生成文本时就嵌入记号,并用统计方法识别。然而,简单的同义词替换工具就能破坏这种统计特征,规避检测。
而在AI是否应用于社会科学研究的争论中,一些研究人员已经开始使用AI来替代人类参与者,加速心理实验的进行。滑铁卢大学的心理学教授Igor Grossman表示,如果我们能谨慎地管理偏见并保证数据的真实性,AI可能会改变社会科学研究的游戏规则。这表明,AI在未来的学术研究中将发挥越来越重要的作用。