ChatGPT 很有趣，但不是作者

在不到 2 个月的时间里，人工智能 （AI） 程序 ChatGPT 已成为一种文化轰动。它可以通过该工具的开发人员 OpenAI 创建的 Web 门户免费访问。该程序会根据书面提示自动创建文本，因此非常受欢迎，如果您尝试使用它，它可能会“立即满负荷”。当你通过时，ChatGPT 会提供无穷无尽的娱乐。我要求它重写美国经典戏剧《推销员之死》的第一幕，但以动画电影《冰雪奇缘》中的艾尔莎公主为主角，而不是威利·洛曼。输出是一个有趣的对话，艾尔莎——她从艰难的一天销售中回家——被她的儿子快乐告诉，“来吧，妈妈。你是《冰雪奇缘》中的艾尔莎。你有冰的力量，你是女王。你是不可阻挡的。像这样的混搭当然很有趣，但对科学界和学术界的 ChatGPT 等生成式 AI 程序产生了严重影响。

ChatGPT（Generative Pretrained Transformer）是用一种称为“从人类反馈中强化学习”的技术开发的，用于训练语言模型，使其具有很强的对话性。然而，正如该网站所说，“ChatGPT 有时会写出听起来合理但不正确或荒谬的答案。几个例子显示了它可能犯的明显错误，包括引用了一项不存在的科学研究。

许多担忧都与 ChatGPT 将如何改变教育有关。它当然可以写关于一系列主题的文章。我给它做了一个考试和一个期末项目，这是我在乔治华盛顿大学教授的一门关于科学否认的课上给学生布置的。它很好地找到了事实答案，但学术写作还有很长的路要走。如果有的话，对教育的影响可能会促使学者以创新的方式重新思考他们的课程，并给出人工智能不容易解决的作业。这可能是最好的。

更令人担忧的是ChatGPT对撰写科学论文的影响。在最近的一项研究中，ChatGPT 创建的摘要被提交给学术审稿人，他们只发现了 63% 的假货。这是很多人工智能生成的文本，很快就会进入文献。

多年来，《科学》系列期刊的作者都签署了一份许可证，证明“该作品是原创的”（斜体字后加）。对于《科学》期刊来说，“原创”二字足以表明ChatGPT写的文字是不可接受的：毕竟，它是从ChatGPT抄袭而来的。此外，我们的作者证明他们自己对论文中的研究负责。尽管如此，为了明确说明问题，我们现在正在更新我们的许可证和编辑政策，以规定 ChatGPT（或任何其他 AI 工具）生成的文本不能在作品中使用，图形、图像或图形也不能是此类工具的产物。人工智能程序不能是作者。违反这些政策将构成科学不端行为，与更改图像或剽窃现有作品没有什么不同。当然，在研究论文中，有许多合法的数据集（不是论文的文本）是由人工智能有意生成的，而这些数据集并不在此更改中涵盖。

《科学》杂志处理的大多数科学不端行为都是由于人类关注不足而发生的。通过使用图像处理程序（如 Photoshop）或从其他来源复制文本来获取快捷方式。更改的图像和复制的文本可能会被忽视，因为它们受到每个作者的审查太少。就我们而言，当编辑和审稿人不倾听他们内心的怀疑论者，或者我们没有把重点放在细节上时，就会发生错误。在对科学的信任正在受到侵蚀的时候，科学家必须重新致力于对细节的仔细和细致的关注。

科学记录归根结底是人类努力解决重要问题的努力之一。机器发挥着重要作用，但作为人们提出假设、设计实验和理解结果的工具。归根结底，产品必须来自我们脑海中的奇妙计算机，并由它来表达。