AI for Science（AI4S）的边界在哪里

AI4S很火，因为已经出现了诸多成功的甚至是具有突破性意义的案例，例如，DeepMind4 开发的用于预测蛋白质三维结构的AlphaFold，基于扩散模型预测分子三维结构的GeoDiff，以及模拟燃烧反应和流体过程的DeepFlame。在这些成功故事的影响下，不少研究者将打造AI科学家或共同科学家（co-scientist）作为追求的目标。在我看来，已有的AI4S的成功案例证明了AI用于科学研究的巨大潜力，然而，我们不能忘记，科学家是人类的角色，科研是人类的专属责任，人类可以利用助手和工具辅助科研，但是不能允许这些助手和工具越俎代庖掌控科研。AI可以成为科学家的有力助手，但不能是AI科学家或共同科学家。即使我们可以研发出大幅度提升科研效率的工具助手，但如果无法完全掌控它们，我认为我们宁愿放缓科技发展的步伐。

要理解这一点，我们需要回顾科学研究的源起和发展。科学发展的第一驱动力是好奇心，即人们希望去了解其所生存的世界。古希腊的先哲们创造了灿烂的文明，也在科学领域进行了积极的探索。现代意义上的科学则源于17世纪的科学革命，而这场革命却是经历了两个世纪的准备，才开启了人类社会的新时代。15世纪是文艺复兴，人们刚从黑暗的中世纪走出来，缘于古希腊文化的价值和美丽，对古希腊经典崇尚备至，认为“古典的东西是无与伦比的”。16世纪的宗教改革是思想的第一次解放，强调“基督教并不是罗马人的”，具有普世性。17世纪的科学革命则是缘于一系列的科学发现挑战了古希腊时代形成的“科学”观念，人们发现“希腊人错了”，进而催生了新的科学方法和理论。18世纪的启蒙运动则进一步强化了“宗教是迷信”的观念，人们认识到，需用理性取代迷信，只要理性跟随科学，未来就有进步。这也是人类历史上首次出现“进步”一词。

科学革命以后，人类社会进入了快速的不断进步的阶段，通过科学研究认识世界，丰富了人类知识，进而基于科学发明技术改造人类生存的世界。后续的工业革命开启了人类文明新形态，极大地丰富了物质文明，人类摆脱了靠天吃饭的宿命，出现了“经济增长”的概念。据《世界经济千年史》所述，公元第一个千年，西欧以及全球其他地区的经济几乎没有增长，是西欧率先打破了这种千年停滞的状态。14世纪西欧的人均GDP超过中国，1820年后世界经济开始出现陡坡式的拉升，从1820年到1999年，西欧人均GDP年均复合增长率达到1.51%，世界人均收入增长了8.5倍左右，世界人口增长了5.6倍左右。西欧人口增长和经济增长几乎同步，在第一个千年里，整个西欧的人口增长只有几十万，1820年后人口快速增加，到 1998年人口年均复合增长率达到0.6%。这些成就无疑都要归功于科学革命和工业革命，即科技的发展。当然，人类在通过科技改变世界的过程中，也造成了一系列负面影响，诸如环境污染、隐私侵犯，乃至毁灭性武器的出现，等等。

 

我们需要理解并准确把握科学研究的本质。科研是什么？科研的结果并非一定正确，知识也并非绝对无误，但人类通过不断的探索和验证，去伪存真，人类的知识宝库也一直不断地扩大、完善。在这个历史进程中，无论如何，人类始终掌握着主导权。技术进步虽然极大地提高了科研的效率和质量，但其作为工具的角色始终没有改变。然而，这一轮的AI浪潮，正在给人类的科学研究，进而给人类的知识积累带来严峻挑战。大语言模型对人类知识的“掌握”超越了任何个体和任何学科群体；当前技术路径的生成式AI的广泛应用，将有可能污染人类现存的知识体系；高效率的大规模“成果”产出，也给其验证带来了巨大挑战，人类的知识入库审核权如何保证？如何摆脱因过分依赖AI而对科研人员的能力培养和提升造成的负面影响？

不忘初心，我们需要回归科学研究的本因，即通过不断的科学发现了解我们生存的世界，进而通过技术发明不断改善我们的生活。作为地球的主人，我们不能把认知权力让渡给任何工具。我们需要的不是知识积累的速度，而是质量。我们应该，也可以把控知识发现的节奏。同时，我们需要加强科研后备军的基本素养和技能的培养，我们须恪守科技伦理，坚持以人为本、科技向善。