李国杰院士“推动科研范式的智能化变革”报告中的56条金句

（李国杰，中国工程院院士、第三世界科学院院士，中国科学院计算技术研究所研究员、中国科学院大学计算机与控制学院院长。主要从事计算机体系结构、并行算法、人工智能、计算机网络、信息技术发展战略等方面的研究）

编者认真学习了李国杰院士的报告，受益匪浅，并整理出了下列56条金句（红色源于PPT）。在今天这个智能的时代，值得我们每个人慢慢地领会。

1) 做科研这一行比其他行业有更严格的“铁律”，必须凭“证据”说话。

2) 技术研究一定是需求牵引、应用导向、市场驱动或目标驱动。智研范

3) 科学家做研究，之所以遵循范式，只是因为他们想不到还能用其他什么方式来进行科学研究。

4) 科研范式变革往往是一次科学革命，目前正在兴起的智能化科研范式也是一场科学革命。 

5) 农业时代只有第一范式。工业时代开始流行第二范式，信息时代出现第三和第四科研范式。现在人类处于信息时代的智能化阶段，正在向智能时代迈进，智能化科研范式顺应而生。

6) 智能化已经成为当今时代的主要追求。对时代的认识不能犯错误，错过时代转变机遇将遭受历史性的降维打击。

7) 近年来人工智能取得重大突破，得益于大数据、大模型和大算力，三者缺一不可。单纯提高算力不是万能药。实际上，野蛮地提高算力对扩大复杂问题的求解规模没有实际意义。

8) 在特定的计算模型上，一个问题类的计算复杂性是不变量，不随求解算法改变。但问题的复杂性随计算模型的改变而改变。

9) 自然语言理解、模式识别等NP困难问题在大模型上能有效解决，说明大语言模型 (LLM)对这类问题的求解效率远远超过图灵计算模型。其成功本质上不是大力出奇迹，而是改变计算模型的胜利! 需要提出新的复杂性理论和计算效率理论

10) 现有的计算复杂性理论还不能对近年来机器学习解决复杂问题的高效率做出科学的解释。

11) “计算”等术语的内涵已经发生变化,网络上永不停机的交互式信息服务、机器学习等已经不是严格意义的图灵计算，但仍然使用同一术语，所以引起很多混淆和争议。

12) 猜测和计算是两个不同的概念，基于神经网络的机器更合适的名称是“猜测机”，而不是“计算机”，其解决复杂问题的效率大大高于图灵模型。

13) 图灵机计算模型和神经网络计算模型各有优势和不足，在不同的领域内表现各异，两者不是取代关系，而是需要取长补短，相互配合。

14) 如果学术界早看到这篇论文（艾伦・图灵，Intelligent Machinery，1948写的，但一直没有发表，2004年才被发现），今天的计算机世界可能是另一幅模样。

15) 深度学习在这些高维问题上取得的成功提示深度神经网络可能是逼近高维函数更有效的工具。

16) 大语言模型的本质是一个性能强大的数据近似无损压缩器，即将输入文件的知识“压缩”后，以权重矩阵形式存储在神经网络模型中。组合搜索的关键也是压缩搜索空间。

17) 解分布不是随机的，必须有效地识别和利用数据中的关键模式和结构，才能在巨大搜索空间中快速找到最有价值的区域。

18) 现在随着机器学习技术的发展，计算机有了另一种获取程序和任务目标的方法: 基于样本的学习。这种新范式让我们可以放弃之前计算机系统设计的一项最基本原则，即通过逐层抽象，软件设计独立于硬件。

19) 目前的计算机能耗高本质的原因是因为数字化和软件的永生性。发展软硬件融合的具身智能是降低能耗的重要方向，应高度重视软件与硬件融合的智能体设计。

20) 基于概率和统计学的方法，通过随机选择或随机生成数据来解决一些复杂问题，现在已成为计算机科学和人工智能领域的重要计算模型。

21) 随机算法是一种在不知道最优解的情况下获得对最优解尽可能正确了解的方法。（冯•诺伊曼认为，概率和统计方法不是上帝的骰子，而是我们无知的表现）

22) 这一波（以大模型为核心技术）人工智能比前两波AI更贴近应用，短期内不会进入寒冬。企业界不能观望等待，错失发展机遇。

23) 现在下结论哪种预判正确还为时过早。大语言模型可能不是实现通用人工智能的最佳道路，只是人工智能发展过程中的一个阶段性成果，但它比前两波人工智能采用的技术具有更大的使用价值。

24) 反向传播可能是比我们拥有的更好的学习算法，这是可怕的。

25) 数字智能并非进化而来的，而是我们创造的，所以它们没有内置的目标。数字智能也许会很快地意识到，获得更多控制权是一个很好的目标。如果这些智能体为了获得更多控制而失去控制，我们就有麻烦了。

26) 人造的硅基产品涌现出超出常规计算和信息处理的认知智能，这是一个划时代的变化。

27) 机器具有人类解释不清楚的“暗知识”，对（我们人类）固有的认识论是一次巨大的冲击。（编者注：我也同意，见：关于“软件工程3.0” 三大支柱和两点说明。大模型可能掌握了我们人类不知道的“暗知识”，而不是有些人说的，人类的暗知识在表达和记录过程中被丢失，其实是他们对“暗知识”概念的错误理解）

28) 大模型具有暗知识是获得超强预测能力的关键。“Scale is all you need”只是表象，如何让大模型获得足够的暗知识才是大模型的真正奥妙。“Scale is all you need” 不是科学判断，而是一种信仰或者说“豪赌”。

29) 在暗知识的引导下，增强计算能力有可能使得启发式算法更快地探索解空间，找到可接受的解。

30) 上千亿自动生成的参数构成的人工神经网络已经是一个有“认知”能力的复杂系统，其涌现能力是机器学习形成的复杂系统自己具有的，而且大模型的核心特征是“涌现”功能（编者注：正是因为LLM涌现出许多能力，我提出了软件新形态：软件即模型 Software as a Model）。

31)  我们应当承认，人有人智，机有机“智”。人机互补是新范式的主要特征之一，今后要争取做到人类和人工智能“各显其智，智智与共”。（注：在软件工程3.0宣言中， 第1句就是“人机智能胜于研发人员个体智能”，在软件工程3.0时代，人机交互智能是一种常态）

32) 我曾问过ChatGPT和“文心一言”:“机器是不是真的具有智能?”ChatGPT回答: “我认为机器确实拥有自己的智能”。“文心一言”回答:“目前的主流观点认为，机器暂时没有真正的智能。”机器的回答与创建者选择学习内容的意向有关，也许，中美两国学者对机器智能的认识是导致我们在大模型研发上落后的背后原因之一。

33) 量子力学在被发现时是非常违反直觉的，当智能的基本原理被发现时，它们可能同样违反直觉。（注：违反直觉不一定是错的，包括爱因斯坦的广义相对论）

34) 搜索是没有创造性的，猜测可能有创造性，可以看成是人类智能的补充而不是替代。向LLM 提问其实不是人类在测试计算机的智能，而是LLM在测试提问者对机器智能的了解程度，因此可以看成是一种反向图灵测试。如何看待大模型的“幻觉”

35) LLM的泛化能力和幻觉是一个硬币的两面。我们需要在与幻觉共存的环境下发展人工智能。（OpenAI科学家Andrej Karpathy: 从某种意义上说，大语言模型的全部工作恰恰就是制造幻觉，大模型就是“造梦机”）智能研究需要借助复杂系统理论

36) 不了解复杂系统的涌现规律， LLM就只能停留在黑盒阶段，知其然而不知其所以然。但目前AI研究与复杂系统研究基本上是两股道上的车，两个领域的学者联系交往不密切。

37) LLM的底层规则是未知的，正是AI研究需要了解的奥秘。需要开辟有关人工智能的复杂系统研究新方向。

38) 传统的复杂性研究是从具体的案例中抽象出普遍适用的规律与方法。人工智能走一条相反的路，往往是针对具体特例求解。而不是针对非特例的计算程序。

39) 以数据为中心的AI是一门对成功构建AI系统所需的数据进行系统工程的学科。

40) 我们需要学习一个具备常识推理与预测能力的世界模型。世界模型是AI大模型未来最理想道路。

41) 合成数据可以用来验证和复现已知的规律,但不太可能直接揭示原始数据集中不存在的全新规律。数据是人类认识世界的基本途径

42) 从某种意义上讲，没有数据就没有智能，没有数据就没有解释，现阶段人工智能的主流是数据智能。

43) 世界本质上具有不确定性，很多智能问题从根本来讲是消除不确定性的问题，可以用数据消除不确定性。

44) 科研新范式：人工智能全面融入科学、技术和工程研究，科研全面自动化；机器开始涌现智能，人机智能互补成为科研的新模式。（注：这和软件工程3.0新范式吻合）

45) 现在各个领域中需要解决的难题大多需要人机交互，人在回路中，人机融合的具身智能将发挥越来越大的作用。

46) 面向非确定性问题，概率统计模型在科研中发挥更大的作用; 跨学科合作成为主流科研方式，数据驱动和模型驱动的结合; 科研更加依靠以大模型为特征的科研大平台等。

47) 经过几十年努力，现在有了另一种求解途径，一个基于学习而不是编写计算机程序的替代方案。大模型相当于一种可能导致通用智能的应用程序，这些算法有时会失败，但足以在现实世界中对付复杂的问题。

48) 这次 AI之火复燃，明显的改进是采用了统计学的方法，处理的对象变为大量的数据，数学工具可以大显身手，这也是AI技术突飞猛进重要原因。

49) 经过300多年的科学探索，知识之树底层的果实差不多都摘光了，留在树尖的果实几乎都是难啃的复杂之果。

50) 过去四种科研范式难以解决的组合爆炸问题是第五范式的主要用武之地。

51) 以概率统计为基础的信息理论大概对于现代计算机设计更加重要。

52) 放弃对百分之百正确性的追求，可能是智能化科研获得巨大威力的前提之一。

53) 今天世界上引领人工智能的不是一流的大学，也不是国立实验室，而是OpenAI、 DeepMind这样的创业公司。这些科研团队不仅具备前沿性、原创性基础科研能力，还做了大量系统研发和工程开发。我国要在人工智能领域进入国际第一方阵，需要集中全国优势力量，构建集产学研和工程开发于一体的新型科研团队

54) 我们必须尽快缩小在大模型科研与产业化上与国外的差距，走出符合国情的大模型发展之路，同时努力探索不同于大模型的人工智能新途径。

55) 跨领域的大科学模型与垂直领域的专业模型的协同配合是需要考虑的重要问题。

56) 构建垂直领域的专业大模型是智能化科研必要的基础设施，既需要懂得人工智能技术，又要对所涉及领域有深入的了解。（编者注：软件研发和这类似）