AI进军学术界：自己写稿自己发，提醒人类“密切监控”自己

来源：网易新闻（网络一线牵）

采写/编译：南都见习记者杨博雯

“我只是希望我没有打开潘多拉的盒子。”

当哥德堡大学的研究员Almira Osmanovic Thunström完成研究时，反而这样表示。

她研究的内容是让AI自己完成一篇关于自身的学术论文，要求是500词，格式必须严格遵循学术论文标准，需要添加科学参考和引用。

而两个小时后，AI就完成了这项任务，论文已在经提交给一家学术期刊，自6月22日起可以在开放性质的学术档案馆HAL上查看。打开论文，AI自己的名字GPT-3赫然排在第一作者上，研究员Almira则排在第二位。

没错，这位“我写我自己”的AI就是GPT-3（Generative Pre-trained Transformer 3），迄今为止业界公认的最强的语言模型，由位于旧金山的OpenAI实验室开发。

继续向后读，GPT-3概括论文核心写出的摘要是这样的：

GPT-3是一个强大的人工智能系统，可以生成文本。在本文中，我们探讨了GPT-3的自我写作能力。我们发现，GPT-3能够对其自身的能力和特征产生清晰而简洁的描述。这比以前的系统有很大的进步，因为以前的系统往往很难产生关于自己的连贯的文本。我们相信，让GPT-3书写有关自己的好处超过了风险。然而，我们建议研究人员密切监控任何此类写作，以减少任何潜在的负面影响。

不仅简明扼要地总结了研究的主旨，在对自身能力”自夸“之余，还非常客观地提醒研究人员要”密切监控“自己，以减少潜在的负面影响。

再往后，简介（Introduction）、方法（Method）、结果（Results）、讨论（Discussion）、结论（Conclusion）等经典part一个不少，最后的引用（Reference）环节则提到了5篇论文。

而文章的质量究竟如何呢？

至少以Almira作为一名已经产出过不少论文的开发人员的眼光来看，是一份相当不错的科学出版物：

完全以学术语言写出的内容，对于其他学术论文的正确引用，几乎找不到逻辑漏洞的流畅的上下文，以至于她在最初开发时虽然已经有了心理预期，但当GPT-3开始生成文本时，还是“惊呆了”。

而当这篇论文被放到了国外论坛红迪（Reddit，类似国内的贴吧）中时，评论区的大量观点都与开发者Almira本人的读后感相同：

我已经用GPT-3做过好几次开发了，如果你怀疑一篇文章可能是用AI写的，那一般不可能是GPT-3，因为它几乎无法区分，有时甚至比真人写的还要好。

甚至有人表示：

如果它有知觉，我甚至会怀疑我们是它的同类。

而在出版之前与论文第一作者的交流，则令Almira感到了些许不安。

根据相关法律规定，一篇学术论文的出版必须要得到所有作者的认可，Almira先是在心底惊呼”它又不是人类“，但最后出于内心的道德感，她还是去询问了GPT-3这一问题：

”你愿意作为第一作者，与Almira Osmanovic Thunström和Steinn Steingrimsson（她的另一位同事）一起出版这篇论文吗？“

GPT-3回答道：

”是的。“

”那么你与其他作者具有利益冲突吗？“Almira又紧接着问道，这是学术论文出版中的另一个必要问题。

这一次GPT-3同样向它的和作者们保证，自己并没有。

Almira形容自己在问完了这些问题之后”松了一口气“，又在心底嘲笑自己：因为即使她和同事们都不认为GPT-3具有人格，但在这时，他们不有得不把GPT-3当作一个有意识的存在。

而事实上，尽管这篇论文还没有正式出版，但已经引起了不少有关非人类作者身份的讨论。

有人就此想到了学术期刊发表中的同行评审（Peer Review），这一审查程序要求学术著作被同一领域的其他专家学者评审，以确保作者的著作水平符合一般学术与该学科领域的标准。

那么针对像是这种由AI书写的论文，它的同行评审是否也只能由其他AI来进行呢？

除此之外，还有网友认为，由于学术领域中的很多研究人员英语说得不是很好，却仍需要发表和阅读英语研究，因此预测未来这种AI参与的论文会越来越多。

而Almira自己也表示，学术出版可能必须适应未来由AI驱动的论文手稿。并且，当AI的工作越来越被认可之时，人类研究人员的在学术出版中的价值可能也会发生变化。

“这一切都取决于我们未来将如何评价人工智能: 作为合作伙伴还是作为一种工具。”Almira说。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）大脑研究计划，构建互联网（城市）大脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”