人工智能可以解决科学问题吗？(一）

注意：点击任何图表都能获得重现它的Wolfram语言代码。用于训练这里使用的神经网络的Wolfram语言代码也可获得（需要GPU）。

人工智能最终会能做所有事吗？

特别是考虑到其最近的一些出人意料的成功，广泛认为最终人工智能将能“做所有事”，或至少是我们目前能做的所有事。那么科学呢？几个世纪以来，我们人类不断取得逐步进展，逐渐构建了现在基本上是我们文明中最大的知识结构。但尽管我们做出了所有这些努力，仍然有各种科学问题悬而未决。那么，人工智能现在能进来解决所有这些问题吗？

对于这个终极问题，我们将看到答案是不可避免地也是坚定地否定的。但这当然并不意味着人工智能不能重要地帮助科学的进步。例如，从非常实际的层面上，LLMs为我们长时间构建的计算能力提供了一种新型的语言界面。通过了解“传统的科学智慧”，LLMs经常能提供高级别的“自动完成”功能，用于填补科学工作中的“传统答案”或“下一步”。

但我在这里想要讨论的是关于人工智能在科学中的更深层次问题。三个世纪前，通过使用数学来表示世界的想法改变了科学。在我们这个时代，我们正在经历一个重大转变，向基于计算的世界观的根本转变（是的，这正是我们的Wolfram语言计算语言所关注的）。那么人工智能怎么样呢？我们应该将其仅视为访问现有方法的实用工具，还是它为科学提供了一些根本性的新东西？

我的目标是探索和评估人工智能在科学中能做什么和不能做什么。我将考虑一些具体的例子，简化它们以突出正在（或不是）发生的事情的本质。我将谈论基于我们迄今所见的直觉和期望。我还将讨论一些理论性的——在某种意义上是哲学性的——基础，关于什么是可能的，什么是不可能的。

那么我到底是什么意思呢？在过去，任何严肃的计算活动通常被认为是“人工智能”，在这种情况下，例如，我们长期以来使用我们的Wolfram语言计算语言所做的就会符合条件——就像我在计算宇宙中对简单程序的“规则学”研究一样。但在这里，大部分时间我将采用一个更狭窄的定义——并说人工智能是基于机器学习的东西（并且通常是用神经网络实现的），它是通过给定的例子增量训练的。我经常会添加另一部分：那些例子包括大量人类生成的科学文本等，或者关于世界上发生的事情的实际经验的语料库——换句话说，除了是一个“原始学习机器”外，人工智能还是从大量与人类知识相一致的知识中学习到了东西。

好的，我们已经说明了我们所指的人工智能。那么我们现在所指的科学，以及“做科学”是什么意思呢？最终，这一切都关乎将“外在世界”中的事物（通常是自然世界）转换或翻译成我们可以思考或推理的事物。但实际上做科学有几种相当不同的常见“工作流程”。一些以预测为中心：根据观察到的行为，预测将会发生什么；找到一个我们可以明确陈述的模型，说明系统将如何行为；给定一个现有理论，确定其具体含义。其他工作流程更多关于解释：给定一种行为，为其产生一个人类可理解的叙述；找到不同系统或模型之间的类比。还有其他工作流程更多关于创造性的事物：发现具有特定属性的东西；发现“有趣”的东西。

在接下来的内容中，我们将更详细地探索这些工作流程，了解它们如何（或不能）被人工智能转换或启发。但在我们深入之前，我们需要讨论一个悬在任何尝试“解决科学”上的现象：计算不可约简性。

计算不可约简性的硬性限制

在做科学时，往往存在一个巨大的挑战，即找到某些系统运作的基本规则。但假设我们找到了这些规则，并且有某种形式的方法来表示它们，比如作为一个程序。然后还有一个问题，即这些规则对系统的实际行为有什么含义。是的，我们可以逐步明确地应用这些规则并追踪发生的情况。但我们能否——一举解决一切——只需“解决一切”并知道系统将如何表现呢？

为此，我们在某种意义上必须“无限聪明”于系统。系统必须经历所有这些步骤——但我们可以“跳过”并立即弄清楚结果。一个关键的想法——最终在我们的物理项目的基础层面得到支持——是我们可以将发生的一切视为计算过程。系统在进行计算以决定其行为。我们人类——或者，就此而言，我们创建的任何人工智能——也必须进行计算以尝试预测或“解决”该行为。但是计算等价原理表明，这些计算在其复杂性上最多是等价的。这意味着我们不能期望系统地“跳过”并预测或“解决”系统；不可避免地需要一定不可约简的计算工作量来弄清楚系统将如何做。因此，尽管我们可能会尝试，使用人工智能或其他方式，我们最终在“科学能力”上受到行为的计算不可约简性的限制。

但鉴于计算不可约简性，为什么科学实际上是可能的呢？关键事实是，每当存在总体的计算不可约简性时，也总会有无限多的计算可约简性的小口袋。换句话说，总有某些系统方面的事情可以用有限的计算努力说出来。而这些正是我们在“做科学”时通常关注的内容。

但不可避免地存在这样的限制——以及遇到计算不可约简性的问题。有时这表现为我们无法回答的问题，有时表现为我们无法预见的“惊喜”。但关键点是，如果我们想要“解决一切”，我们最终将不得不面对计算不可约简性，而且就没有任何方式——使用人工智能或其他方式——可以避免逐步模拟系统。

然而，这里有一个细微之处。如果我们只想知道与计算可约简性一致的事物呢？许多科学和技术已经特别围绕计算可约简性现象构建。这就是例如数学公式在科学中能够如此成功的原因。

但我们当然知道我们还没有在科学中解决我们想要的一切。而在许多情况下，似乎我们没有选择，必须研究我们需要的东西；例如，自然强加给我们。结果是，我们不可避免地最终面对计算不可约简性。

正如我们将要讨论的，人工智能有潜力为我们提供寻找某些类型的计算可约简性口袋的简化方法。但总会有计算不可约简性在周围，导致意想不到的“惊喜”和我们无法快速或“叙述性”达到的事物。这种情况会结束吗？不会。总会有“更多的东西要发现”。需要更多计算才能达到的事物。我们之前不知道的计算可约简性口袋。最终——无论有没有人工智能——计算不可约简性将阻止我们能够完全“解决科学”。

这一切与历史的奇妙共鸣。在二十世纪初，有一个大问题是所有的数学是否可以被“机械化解决”。然而，哥德尔定理的到来似乎确立了它不能。现在我们知道科学也最终具有计算结构，计算不可约简性现象——实际上是哥德尔定理的一种加强——表明它也不能被“机械化解决”。我们仍然可以问，人们选择研究的数学或科学是否可能完全生活在计算可约简性的口袋中。但从某种意义上讲，“数学之所以难”是因为我们不断地看到计算不可约简性的证据：我们无法绕过实际进行计算。这就是为什么例如神经网络方法（至少在没有像Wolfram语言这样的工具帮助的情况下）不擅长的原因。

过去成功的事情

在深入研究基于现代机器学习的人工智能可能在“解决科学”中能做什么之前，回顾一下过去的成功似乎是有价值的——至少作为现代人工智能现在可能增加的基线。

我个人已经使用计算机和计算在科学中发现新事物超过四十年了。我的第一个重大成功来自于1981年，当时我决定尝试枚举一定种类的所有可能规则（基本的元胞自动机）并在计算机上运行它们以查看它们做了什么：

我假设有简单的底层规则，最终行为也将相应简单。但在某种意义上，计算机并不这么认为：它只是枚举规则并计算结果。因此，即使我从未想象它会存在，它也能“发现”类似规则30的东西。

我一次又一次地有类似的经历：我无法看出某些系统如何能够做到任何“有趣”的事。但当我系统地枚举可能性时，它就在那里：某些意想不到的、有趣的——并且“聪明的”——由计算机有效地发现的东西。

在90年代初，我想知道最简单的可能的图灵机是什么样的。我自己永远也无法弄清楚。自60年代初以来保持记录的机器有7个状态和4种颜色。但计算机让我通过系统枚举发现了2状态，3颜色机器

在2007年被证明是通用的（是的，它是最简单可能的通用图灵机）。

在2000年，我对可能的最简单逻辑公理系统（布尔代数）感兴趣。直到那时已知的最简单的涉及9个二元（Nand）操作。但通过系统枚举可能性，我最终找到了单个6操作公理

（我使用自动定理证明证明了它是正确的）。再一次，我不知道这是“在那里”，当然我自己也永远无法构造它。但只是通过系统枚举，计算机能够找到对我来说看起来非常“有创意”的结果。

在2019年，我在进行另一项系统枚举，现在是可能对应于我们物理宇宙最底层结构的超图重写规则。当我看到生成的几何图形时，我感觉作为一个人类我可以大致分类我所看到的。但是否有异常？我求助于更接近“现代人工智能”来做科学——制作一个特征空间图的视觉图像：

它需要我作为一个人来解释它，但是，是的，有些异常是由生成特征空间图的神经网络“自动发现”的。

我将给出另一个例子——来自我的个人经验的一个不同类型的例子。回到1987年——作为构建现在的Wolfram语言1.0版本的一部分——我们试图开发算法来计算数百种数学特殊函数在非常广泛的参数范围内。在过去，人们费力地为特定情况计算了级数近似。但我们的方法是使用我们现在可能称之为机器学习的方法，花费数月的计算机时间来拟合有理近似中的参数。如今，我们可能会使用神经网络而不是有理近似。但在这两种情况下，概念都是找到一个通用模型来描述你正在处理的“世界”（在这里，特殊函数的值）——并尝试从实际数据中学习模型中的参数。这并不完全是“解决科学”，甚至也不允许人们“发现意料之外的”东西。但这是一个“类似AI”的地方，其中对平滑性或简单性的一般期望让人能够构造出类似科学模型的东西。