熵是什么？一场200年的探索之旅

人工智能学家

于 2025-05-15 14:56:19 发布

阅读量413

点赞数

原文链接：https://mp.weixin.qq.com/s?__biz=MzIwOTA1MDAyNA==&mid=2650034154&idx=2&sn=81b54cb8ead610a8c74f513f798e6a4d&chksm=8e3ee3edf3b0fb56d3d41527083bce5a6b846fd24975595fa61c109d0335ff3c7da70b745c63&scene=126&sessionid=0

版权

导语

时间为何总是向前流动？为何世界在宏观层面呈现出确定性，而微观世界却充满不确定？这背后，隐藏着一个深刻的物理学概念——熵。熵的增长规律，紧密关联着我们最基本的经验，揭示了自然界不可逆的演化方向。自1824年萨迪·卡诺首次提出熵的概念以来，它的内涵在物理学、信息论、生态学等领域不断演化。

在两百年后的今天，我们正在迎来对这一量化指标的全新理解：熵不再被视为系统固有的属性，而是相对于与系统互动的观察者而言的属性。这种现代观点揭示了信息与能量之间的深刻联系，这一联系正推动着微观尺度上的微型工业革命。

研究领域：熵，不确定性，观察者，熵增，信息论，热力学第二定律

来源：Quanta

作者：Zack Savitsky

译者：乌穆语、梁金

审校：任超

什么是熵？一个衡量我们的无知程度的标准。

整整两百年前，一位法国工程师提出了一个理念，试图量化宇宙不可避免地走向衰退的过程。然而，如今我们所理解的“熵” (Entropy)，与其说是关于世界的一个客观事实，不如说是反映我们日益增长的无知。接受这一真相，正促使人们重新思考诸多领域的问题，从理性决策到机器的极限，无一例外。

生命就像一部关于毁灭的文集。你所建造的一切最终都会崩塌。你所爱的人终将逝去。任何秩序或稳定的感觉都不可避免地会瓦解。整个宇宙都走在一条令人沮丧的漫漫旅途之上，最终抵达一个单调沉闷，而又极度混乱的状态。

为了刻画这种宇宙级的衰退，物理学家们使用了一个概念，称为“熵” (Entropy)。熵是对系统无序程度的衡量。有一条定律宣称熵总是不断增加，这条定律被称为“热力学第二定律” (Second Law of Thermodynamics)[1]，它是自然界中最无法逃避的法则之一。

我长期以来一直被一种感觉所困扰，那就是宇宙似乎总有走向混乱的普遍趋势。秩序本质上是脆弱的。制作一个花瓶需要数月的精心规划和艺术创作，但用一个足球砸碎它却只在一瞬间。我们一生都在努力理解这个混乱且不可预测的世界，然而，任何试图建立控制的努力似乎总是适得其反。热力学第二定律断言机器永远无法达到完美效率。这意味着，无论宇宙中出现了怎样的结构[2]，其最终作用都只是进一步耗散能量——无论是最终爆炸的恒星，还是将食物转化为热量的生物体。哪怕我们竭尽全力，我们仍然是熵的代理人[3]。

“生活中唯一确定的东西只有死亡、税收和热力学第二定律，”麻省理工学院的物理学家塞斯·劳埃德 (Seth Lloyd) 写道[4]，我们无法避开“熵”这个概念。熵的增长与我们最基本的经验紧密相连，它解释了为何时间总是向前流动[5]，也解释了为何世界看似是确定性的，而不是量子力学中的不确定状态[6]。

尽管熵具有根本性的重要意义，但它却可能是物理学中最具分歧的概念。“熵一直是个难题，”Lloyd对我说。这种争议源于“熵”这个术语在不同学科间的混用和扭曲——它在物理学、信息论、生态学等领域含义相同，但却格局分野。但更深层的原因在于，要真正掌握熵的本质，需要克服一些令人不适的哲学障碍，这种思维上的深刻转变，使许多人难以全面理解。

在过去一个世纪中，物理学家们努力将看似无关的领域统一起来，他们为熵带来了新的光芒——将观察的焦点从外部系统转向观察者自身，并将概念的中心从“无序”转变为“无知”。如今，熵不再被视为系统固有的属性，而是相对于与系统互动的观察者而言的属性。这种现代观点揭示了信息与能量之间的深刻联系，这一联系正推动着微观尺度上的微型工业革命。

在熵的概念首次提出的两百年后，我们迎来了对这一量化指标的全新理解，它不再是虚无主义的象征，而是更具“机会主义”的象征。这种概念的演变正在颠覆旧的思维方式，不仅关乎熵本身，还关乎科学的意义以及我们在宇宙中的角色。

火的动力

熵的概念源于工业革命时期对制造完美机械的尝试。一位28岁的法国军事工程师，名叫萨迪·卡诺 (Sadi Carnot)，试图计算蒸汽动力引擎的极限效率。1824年，他出版了一本118页的书[7]，书名为《论火的动力》(Reflections on the Motive Power of Fire)，并在塞纳河畔以3法郎的价格出售。卡诺的书在科学界几乎无人问津，几年后，他因霍乱去世，许多手稿和他的遗体一起被火化，化为灰烬。然而，这本书有一些得以幸存，其中蕴含着热力学这门新科学的火种——火的原动力。

17岁的萨迪·卡诺。

图源：路易-利奥波德·布瓦伊(Louis-Léopold Boilly)

卡诺认识到，蒸汽引擎的核心是一种机器，它利用了热量从高温物体流向低温物体的倾向。他设计了所能想象的最有效的引擎，并为热量转化为功的效率设定了一个上限，这一结果如今被称为“卡诺定理” (Carnot’s Theorem)。他在书中最后一页提出的一个警告最具深远意义：“我们不应该指望在实践中完全利用燃料的全部动力。”总有一些能量会通过摩擦、振动，或其他不受欢迎的运动形式而耗散。完美的效率是无法实现的。

几十年后的1865年，德国物理学家鲁道夫·克劳修斯 (Rudolf Clausius) 阅读了卡诺的书，为那些注定要耗散的能量比例创造了一个术语。他称之为“熵” (Entropy)，这个词来源于希腊语中的“转变”一词。随后，他提出了后来被称为“热力学第二定律” (Second Law of Thermodynamics) 的理论：“宇宙的熵趋向于最大值。”

那个时代的物理学家错误地认为，热是一种流体（称为“热质”(caloric)）。在接下来的几十年里，他们逐渐意识到，热其实是单个分子相互碰撞的副产品。这一视角的转变，使得奥地利物理学家路德维希·玻尔兹曼 (Ludwig Boltzmann) 能够用概率重新定义并深化熵的概念。

鲁道夫·克劳修斯（左）首次提出熵趋于增加的洞见；路德维希·玻尔兹曼将这一增加植根于统计力学。

Theo Schafgans (left); Creative Commons

玻尔兹曼将分子的微观属性（例如它们各自的位置和速度）与气体宏观属性（例如温度和压力）的区分开来。试想一下，假设不是气体，而是一组在棋盘上的相同棋子。所有棋子确切坐标的列表，被玻尔兹曼称为“微观状态” (microstate)；而它们的整体构型——例如是形成一个星形，还是都堆积在一起——则被称为“宏观状态” (macrostate)。玻尔兹曼根据能够产生某一宏观状态的微观状态数量，来定义该宏观状态的熵。一个高熵的宏观状态，是指有许多与之兼容的微观状态——即许多可能的棋子排列方式都能产生相同的总体模式。

棋子形成特定有序形状的方式是有限的，而它们随机散布在棋盘上的方式却多得惊人。因此，熵可以被视为无序的衡量标准。热力学第二定律由此成为一个直观的概率陈述：物体看起来杂乱的方式远多于整洁的方式。因此，当一个系统的组成部分随机地在不同可能构型间切换时，它们往往会呈现出越来越混乱的排列。

视频标题：熵是什么？

熵是无序的衡量标准。它对应于一个整体状态下可能存在的微观构型的数量。

1/3：假设一个盒子里有九个粒子，它们必须聚集成一个大正方形。这种状态只有16种可能的方式；

2/3：现在假设这些粒子可以占据盒子中任意方格，可能的排列方式达到了94,143,280种；

3/3：因为粒子分散排列的方式多得如此之多，粒子进入分散状态的可能性是压倒性的。这正是热力学第二定律的核心思想：一个封闭系统的熵总是增加的。

约纳斯·帕尔诺 (Jonas Parnow) 和马克·贝兰 (Mark Belan)/《量子杂志》(Quanta Magazine)；创意共享 (Creative Commons: CC BY-ND 4.0)[8]

在卡诺的引擎中，热量从高温流向低温，因为气体粒子完全混合在一起的概率，远高于按速度分隔——一边是高温、快速运动的粒子，另一边是低温、缓慢运动的粒子。同样的道理解释了为何玻璃会破碎、冰会融化、液体会混合、树叶会分解。事实上，系统从低熵状态转向高熵状态的自然倾向，似乎是宇宙中唯一能可靠赋予时间一致方向的现象。熵为那些本可在正反方向上同样发生的过程，刻画出了时间的箭头。

熵的概念最终远远超出了热力学的范畴。“当卡诺写下他的文章时，我认为没人能想象到它将会带来什么，”艾克斯-马赛大学 (University of Aix-Marseille) 的物理学家卡洛·罗韦利 (Carlo Rovelli)[9]说道。

物理学家卡洛·罗韦利长期强调物理学中量的观察者依赖性，包括熵。

图源：Christopher Wahl

熵的延伸

熵在第二次世界大战期间迎来了新生。美国数学家克劳德·香农 (Claude Shannon) 当时致力于加密通信渠道，包括连接富兰克林·D·罗斯福 (Franklin D. Roosevelt) 和温斯顿·丘吉尔 (Winston Churchill) 的通信线路。这一经历促使他在接下来的几年里，深入思考通信的基本原理。香农试图测量一条信息中所含的信息量，他通过一种迂回的方式做到了这一点——将知识视为不确定性的减少。

克劳德·香农，被称为信息论之父，将熵理解为不确定性。

图源：Estate of Francis Bello；Science Source

乍一看，香农提出的公式似乎与蒸汽引擎毫无关系。给定消息中可能出现的一组字符，香农的公式将“下一个字符的不确定性”定义为：每个字符出现概率与其概率对数的乘积之和。但如果每个字符的出现概率相等，香农的公式就会简化，并与玻尔兹曼的熵公式完全相同。据说物理学家约翰·冯·诺伊曼 (John von Neumann) 曾敦促香农将这一量称为“熵”——部分原因是它与玻尔兹曼的熵密切相关，还有部分原因是“没人真正知道熵是什么，所以在辩论中你总能占上风。”

正如热力学中的熵描述了引擎的效率，信息熵则捕捉了通信的效率。信息熵对应于弄清消息内容所需的“是或否”问题的数量。高熵消息是没有模式的，无法猜测下一个字符，因此需要许多问题才能完全揭示其内容。而充满模式的消息包含的信息较少，更容易猜测。“信息与熵之间呈现出一幅非常美妙的交织图景，”劳埃德说，“熵是我们未知的信息；信息是我们已知的信息。”

1957年，美国物理学家E.T.杰恩斯 (E.T. Jaynes) 发表的两篇里程碑式的论文[10]中，通过信息论的视角审视热力学，巩固了这一联系。他将热力学视为一种从不完整粒子测量中进行统计推断的科学。杰恩斯提出，当一个系统只有部分信息已知时，我们应对符合这些已知约束的每种构型赋予相等的可能性。他的“最大熵原理” (Principle of Maximum Entropy) 提供了一种对有限数据集进行预测的最无偏方法，如今被广泛应用于统计力学、机器学习[11]和生态学[12]等领域。

因此，在不同领域中发展出熵的概念，却能彼此契合。熵的增加对应于微观细节信息的丢失。例如，在统计力学中，当盒子里的粒子混合起来，我们无法追踪它们的位置和动量时，“吉布斯熵” (Gibbs Entropy) 就会增加。在量子力学中，当粒子与其环境发生纠缠，从而打乱其量子态时，“冯·诺伊曼熵” (von Neumann Entropy)上升。当物质落入黑洞，外界失去对其信息时，“贝肯斯坦-霍金熵” (Bekenstein-Hawking Entropy) [13]也会上升。

熵始终衡量的都是无知：对粒子运动的无知、代码中下一个数字的无知，或量子系统确切状态的知识缺失。“尽管熵最初因不同动机被引入，如今我们能将它们全部与不确定性的概念联系起来，”苏黎世联邦理工学院 (Swiss Federal Institute of Technology Zurich) 的物理学家雷纳托·伦纳 (Renato Renner) [14]说。

然而，这种对熵的统一理解引发了一个令人不安的问题：我们谈论的是谁的“无知”？

视频标题：熵作为不确定性。

熵也可以被视为不确定性的衡量标准。一组粒子的无序程度越高，它们的确切排列就越不确定。

1/2：我们以有序状态开始，你知道所有九个粒子聚在一起，点击方格即可揭示粒子的位置。

2/2：在任何可能排列的更无序状态下，找到一个粒子无法告诉你其余粒子的位置。点击方格，找到这种高熵状态下的粒子。

约纳斯·帕尔诺 (Jonas Parnow) 和马克·贝兰 (Mark Belan)/《量子杂志》(Quanta Magazine)；创意共享 (Creative Commons: CC BY-ND 4.0)[15]

主观性的气息

作为意大利北部的一名本科物理学学生，卡洛·罗韦利从教授那里学习了熵和无序增长的概念。但他感到有些不对劲。他回家后，将油和水装进一个罐子，摇晃后观察液体分离——这似乎与他所学的热力学第二定律相悖。“他们告诉我的都是胡说八道，”他回忆当时的想法，“显然教学方式存在问题。”

罗韦利的经历揭示了熵之所以令人困惑的一个关键原因：生活中不乏看似秩序增加的情况，从孩子收拾卧室，到冰箱冷却火鸡。然而，罗韦利也明白，他对热力学第二定律的“胜利”只是幻觉。一个拥有超强热视力的超级观察者会看到，油和水的分离如何将动能释放给分子，留下一个热学上更无序的状态。“真正发生的是，宏观秩序的形成是以微观无序为代价的，”罗韦利说。热力学第二定律始终成立，只是有时隐藏在视线之外，罢了。

E.T.杰恩斯(E.T.Jaynes)（上）在解决威尔拉德·吉布斯(Willard Gibbs)提出的悖论时，

阐明了熵的主观性质。

Creative Commons（top）；The Scientific Papers of J. Willard Gibbs

杰恩斯也帮助澄清了这个问题。为此，他回顾了1875年由约西亚·威尔拉德·吉布斯 (Josiah Willard Gibbs) 首次提出的一个思想实验，这个实验后来被称为“吉布斯混合悖论” (Gibbs Mixing Paradox)：假设一个盒子里有两种气体，A和B，中间由一块隔板分隔。当你移开隔板时，热力学第二定律要求气体扩散并混合，熵会因此增加。但如果A和B是相同的气体，且保持相同的压力和温度，移开隔板后熵并不会改变，因为粒子已经处于最大混合状态。

问题来了：如果A和B是不同的气体，但你无法区分它们，会发生什么？

吉布斯提出这个悖论一个多世纪后，杰恩斯给出了解决方案[16]（他坚称吉布斯已明白这一点，只是未能清楚表达）。想象盒子里装的是两种不同的氩气，它们完全相同，唯一的区别是其中一种能溶于一种尚未发现的元素——姑且称为“嗅素” (whifnium)。在嗅素被发现之前，无法区分这两种气体，因此移开隔板后，熵看似没有变化。然而，一旦嗅素被发现，一位聪明的科学家就能利用它区分两种氩气，并计算出两种气体混合时熵的增加。更有甚者，这位科学家还能设计一个基于嗅素的活塞，从气体的自然混合中提取此前无法利用的能量。

杰恩斯阐明了一点：一个系统的“有序性”——以及从中提取有用能量的潜力——取决于执行者的相对知识和资源。如果实验者无法区分气体A和B，它们实际上就是同一种气体。一旦科学家有了区分它们的手段，他们就能利用气体混合的倾向来提取功。熵不取决于气体之间的差异，而取决于它们的可区分性。无序是观察者的主观判断。

杰恩斯写道：“我们能从任何系统中提取的有用功的数量，显然且必然地取决于我们对其微观状态的‘主观’信息有多少。”

吉布斯悖论强调，需要将熵视为一种依赖于观察者视角的性质，而非系统固有的特性。然而，这种主观的熵的理解，物理学家们难以接受[17]。正如科学哲学家肯尼思·登比 (Kenneth Denbigh) 在1985年的一本教科书[18]中写道：“如果这种观点成立，将带来一些深刻的哲学问题，并可能动摇科学事业的客观性。”

接受这种条件定义的熵，需要重新思考科学的根本目的。这可能意味着物理学更准确地描述的是个体经验，而非某种客观现实。如此一来，科学家们逐渐意识到熵被卷入了的更大趋势：许多物理量只有相对于观察者才有意义。（甚至时间本身，也因爱因斯坦(Albert Einstein)的相对论而变得相对。）“物理学家不喜欢主观性——他们对此很排斥，”加州大学圣克鲁斯分校 (University of California, Santa Cruz)的物理学家安东尼·阿吉雷 (Anthony Aguirre) [19]说，“但“绝对”性是不存在的，它从来都是幻觉。”

视频标题：熵是主观的。

秩序的概念因观察者的知识不同而异。

1/4：这里有一个房间，里面满是不同形状和颜色的物体。任务是按相似性将物体整理到同一侧。

2/4：首先是爱丽丝，她视力模糊且忘了戴眼镜，只能分辨物体的颜色。

3/4：现在鲍勃进入房间，他是色盲，只能分辨物体的形状。对他来说，房间依然很乱。

4/4：这表明熵是一种主观衡量。不同观察者眼中的有序，取决于他们能获取的信息。

约纳斯·帕尔诺 (Jonas Parnow) 和马克·贝兰 (Mark Belan)/《量子杂志》(Quanta Magazine)；创意共享 (Creative Commons: CC BY-ND 4.0) [20]

现在，这种接受逐渐到来，一些物理学家开始探索如何将主观性融入熵的数学定义中。

阿吉雷与合作者们设计了一种新度量方法，他们称之为“观测熵” (Observational Entropy) [21]。该方法通过调整观察者以何种方式“模糊”或“粗粒化” (coarse-grain) 他们对现实的感知，从而改变观察者所能观测到的属性。。然后，它对所有与这些观测属性兼容的微观状态赋予相等概率，正如杰恩斯所提议的。这个方程架起了热力学熵（描述宏观特征）与信息熵（捕捉微观细节）之间的桥梁。“这种粗粒化的、部分主观的视角，是我们以有意义的方式与现实互动的方式，”阿吉雷说。

多个独立研究小组已使用阿吉雷的公式，试图寻找热力学第二定律更严格的证明 [22] 。阿吉雷本人则希望用这种度量方法解释：为何宇宙起始于低熵状态 [23]（从而解释时间为何向前流动），以及在黑洞中熵究竟意味着什么。“观测熵框架提供了更多的清晰度，”巴塞罗那自治大学 (Autonomous University of Barcelona)的物理学家菲利普·斯特拉斯伯格 (Philipp Strasberg) 说。他最近在一项比较不同微观熵定义的研究中引入了这一框架[24]，“它真正将玻尔兹曼和冯·诺伊曼的思想与现代研究连接了起来。”

安东尼·阿吉雷定义了一种他称为“观测熵”的量，其他研究者认为这具有澄清作用。

丽莎·谢(Lisa Tse)为FQxI拍摄

与此同时，量子信息理论家们采取了不同的方法[26]来处理主观性。他们将信息视为一种资源[27]，观察者可以利用它与一个日益与其环境融合的系统进行交互。对于一台拥有无限算力的超级计算机来说，如果它能追踪宇宙中每个粒子的确切状态，熵将始终保持恒定——因为信息不会丢失——时间也将停止流动。但对于像我们这样计算资源有限的观察者，总是不得不面对一个粗粒化的现实图景。我们无法追踪房间里所有空气分子的运动，因此我们取平均值，用温度和压力来描述。随着系统演化到更可能的状态，我们逐渐失去对微观细节的掌控，这种无情的趋势体现为时间的流动。“物理学中的时间，归根结底，是我们对世界无知的表达，”罗韦利写道。无知构成了我们的现实。

“世界外面有一个宇宙，每个观察者也携带着一个内在的宇宙，那就是他们对世界的理解和模型，”阿吉雷说。熵提供了一个标尺，用来衡量我们内在模型的不足。这些模型，他说，“让我们能在也许有时充满敌意、但一定总是充满挑战的物理世界中，做出良好预测并智能地行动。”

知识驱动的探索

2023年夏天，阿吉雷在英格兰约克郡一座历史悠久的庄园山麓举办了一次静修学术研讨会[28]，这次活动是由非营利研究组织“基础问题研究所” (Foundational Questions Institute, FQxI) 主办，该组织创办于2006年，阿吉雷也是联合发起人之一。这次活动，吸引了来自世界各地的物理学家，他们聚集在一起，进行为期一周的智力休憩，其他可以参加的活动还包括瑜伽、冥想和野外游泳。这次活动中FQxI资助也支持了一些研究者，他们研究如何将信息作为能量来源加以利用。

约克郡FQxI静修活动场景。

丽莎·谢为FQxI拍摄

对于许多物理学家来说，发动机和计算机的研究界限已变得模糊。他们学会将信息视为一种真实、可量化的物理资源——用来诊断从系统中能提取多少功。他们意识到，知识的确就是力量。现在，他们正着手利用这种力量，展开研究。

一天早晨，在庄园圆顶帐篷里进行了可选瑜伽课程后，团队聆听了夏威夷大学马诺阿分校 (University of Hawai‘i at Mānoa) 的物理学家苏珊娜·斯蒂尔 (Susanne Still) [29]的发言。她讨论了一项新工作，这让人回想起一个世纪前由匈牙利裔物理学家莱奥·西拉德 (Leo Szilard) 首次提出的思想实验[30]。

想象一个盒子，里面有一块可左右滑动的垂直隔板，隔板可在盒子的左右壁之间来回移动。盒子里有一个粒子，位于隔板左侧。当粒子在壁上反弹时，它会将隔板向右推动。一个聪明的“妖精”可以设置绳子和滑轮，使得当隔板被粒子推动时，绳子被拉动，从而提起盒子外的重物。此时，妖精可以偷偷重新插入隔板，重新开始这一过程——看似提供了一个无限能量的来源。

然而，要持续从盒子中提取功，妖精必须知道粒子在盒子的哪一侧。西拉德的引擎以信息为燃料。原则上，信息引擎有点像帆船。在海上，你利用对风向的知识调整风帆，推动船前进。

视频标题：利用熵的增加。

知识在利用熵的增加时就是力量。

1/3：让我们用你所知道的做一些功。在这个例子中，你将尝试把这个重物从地面抬起。

2/3：这种有序状态将演变为无序状态。你可以利用对粒子的知识设计一台机器，来利用这种倾向。

3/3：你可以将重物挂在连接隔板左侧或右侧的绳子上。如果你想让扩散的粒子抬起重物，应该选择哪一边？

约纳斯·帕尔诺 (Jonas Parnow) 和马克·贝兰 (Mark Belan) /《量子杂志》 (Quanta Magazine)；创意共享 (Creative Commons: CC BY-ND 4.0)[31]

但就像热机一样，信息引擎永远不会完美运行。它们也必须以产生熵的形式支付“税收”。正如西拉德等人指出的，我们无法将信息引擎用作永动机，因为测量和存储信息平均产生的熵至少与提取的功相当。知识带来力量，但获取和记住知识会消耗力量。

西拉德构想他的引擎几年后，阿道夫·希特勒成为了德国总理。出生于犹太家庭，住在德国的西拉德逃离了祖国。他的工作被忽视了几十年，直到最终被翻译成英文，正如斯蒂尔在最近关于信息引擎的历史综述[32]中所描述的。最近，通过研究信息处理的基本要素，斯蒂尔成功扩展并推广了西拉德的信息引擎概念。

十多年来，斯蒂尔她一直在研究如何将观察者本身视为物理系统，并且如何受制于自身的物理限制。这些限制的边界能被接近到什么程度，不仅取决于观察者能获取的数据，还取决于他们的数据处理策略。毕竟，他们必须决定测量哪些属性，以及如何在有限的记忆中存储这些细节。

在研究这一决策过程时，斯蒂尔发现，收集无法帮助观察者做出有用预测的信息，会降低他们的能量效率。她提出，观察者应遵循她所谓的“最小自我阻碍原则” (Principle of Least Self-Impediment)——选择尽可能接近其物理极限的信息处理策略，以提高决策的速度和准确性。她还意识到，通过将这些想法应用于改进的信息引擎，可以进一步探索这些理念。

莱奥·西拉德提出了以信息为动力的引擎概念。

美国能源部(U.S. Department of Energy)

在西拉德的原始设计中，“妖精”的测量能够完美揭示粒子的位置。然而在现实中，我们永远无法对系统拥有完美的知识，因为我们的测量总是有缺陷——传感器受噪声干扰，显示器分辨率有限，计算机存储容量受限。斯蒂尔展示了如何通过稍微修改西拉德的引擎，即本质上是通过改变隔板的形状来引入现实世界测量中固有的“部分可观测性”[33]。

想象盒子里的隔板是倾斜的，用户只能看到粒子的水平位置（或许他们看到的是粒子投影到盒子底部边缘的影子）。如果影子完全在隔板的左侧或右侧，你能确定粒子在哪一边。但如果影子位于中间区域，粒子可能在倾斜隔板的上方或下方，因此可能在盒子的左侧或右侧。

斯蒂尔利用部分可观测的信息引擎，计算了测量粒子位置并将其编码到内存中的最优策略。这得出了一种纯物理学推导的算法，该算法目前也在机器学习中使用，称为“信息瓶颈算法” (Information Bottleneck Algorithm) [34]。它提供了一种仅保留相关信息来有效压缩数据的方法。

此后，斯蒂尔与她的研究生多利安·戴默 (Dorian Daimer) 一起研究了 [35] 多种经过修改的西拉德引擎设计，并探讨了不同情况下的最优编码策略。这些理论装置被视为“在不确定性下决策的基本构建模块”，拥有认知科学与物理学双重背景的戴默表示，“这就是为什么研究信息处理的物理学让我如此着迷，因为在某种意义上你绕了一圈，最终回到了对科学家本身的描述。”

再次工业化

斯蒂尔并非约克郡唯一对西拉德引擎抱有憧憬的研究者。近年来，多位获得FQxI

资助的科学家已在实验室中成功研发了实用型引擎，这些引擎利用信息为机械装置提

供动力。与卡诺时代不同，如今没有人期待这些微型引擎能推动列车或决定战争胜负；它们主要作为探索基础物理学的实验平台。然而，与历史重演般，这些引擎正促使物理学家们重新思考能量、信息和熵的本质含义。

在斯蒂尔的协助下，约翰·贝克霍弗 (John Bechhoefer) 成功在加拿大西蒙弗雷泽大 (Simon Fraser University) 重现了西拉德引擎[37]的构想，他们使用了一颗比尘埃还小的二氧化硅微珠，让它漂浮在水浴中。贝克霍弗团队利用激光束捕获这颗微珠，并精确监测其随机热运动。当微珠偶然向上跃动时，他们迅速提升激光陷阱的位置，巧妙利用这一运动。这一实验完美实现了西拉德的设想——通过信息的力量抬起重物。

苏珊娜·斯蒂尔修改了西拉德引擎，以解释不确定性和部分信息的情况。

芒果青柠工作室(Mango Lime Studio)

在研究现实信息引擎提取功的极限[38]时，贝克霍弗和斯蒂尔发现，在某些条件下，它能显著优于[39]传统引擎。受斯蒂尔理论工作的启发，他们还追踪了接收珠子状态部分信息[40]时的低效性。

信息引擎如今在牛津大学 (University of Oxford) 的物理学家纳塔利娅·阿雷斯 (Natalia Ares) [41]的帮助下，缩小到了量子尺度。她在静修活动中与斯蒂尔同在一个小组[42]。在杯垫大小的硅芯片上，阿雷斯将单个电子捕获在悬浮于两个支柱之间的细碳线中。这个“纳米管” (nanotube)，被冷却到接近绝对零度千分之一度，像吉他弦一样振动，其振荡频率由内部电子的状态决定[43]。通过追踪纳米管的微小振动，阿雷斯和同事们计划诊断不同量子现象的功输出。

阿雷斯的研究走廊两侧的黑板上密密麻麻地写满了量子热力学实验计划。“这本质上是一场纳米尺度的工业革命，”她解释道。其中一项计划中的实验汲取了斯蒂尔的思想，该实验将精确调控纳米管振动对电子状态的依赖程度（相对于其他未知因素），本质上创造了一个可以调节观察者认知盲区的精密控制机制。

阿雷斯和她的团队正在探测最小尺度下热力学的极限——某种意义上的“量子火的动力”。在经典物理中，粒子运动转化为功的效率极限由卡诺定理设定。但在量子情况下，有一系列熵[44]可供选择，确定哪一个设定相关界限——甚至如何定义功输出——要复杂得多。“如果你像我们实验中那样只有一个电子，熵意味着什么？”阿雷斯说，“以我的经验，我们在这方面仍然很迷失。”

阿雷斯和她的团队正在探索热力学在最微小尺度上的极限——某种意义上的“量子火的动力”。在经典物理学中，粒子运动转化为功的效率极限由卡诺定理确定。但在量子领域，面对众多不同类型的熵可供选择，确定哪一种熵能设定相关边界变得极为复杂——甚至连如何定义功率输出都成为难题。“如果你只有一个电子，就像我们实验中的情况，熵到底意味着什么？“阿雷斯说道。"根据我的经验，我们在这个领域仍然处于探索之中。”

纳塔利娅·阿雷斯在牛津实验室研究量子尺度的热力学，她定制的热粉色冷藏室象征着时代的变迁。

纳塔利娅·阿雷斯赠予

最近，由国家标准与技术研究院(National Institute of Standards and Technology) 的物理学家妮可·扬格·哈尔彭 (Nicole Yunger Halpern) [45]领导的一项研究表明，在量子领域中，那些通常被视为同义的熵产生定义可能存在分歧[46]，这同样是因为不确定性和观察者依赖性。在这种微观尺度上，某些特性无法同时被精确测量，而且测量某些物理量的顺序会影响最终结果。扬格·哈尔彭认为我们可以利用这种量子奇异性为己所用：“量子世界中存在经典物理中不具备的额外资源，因此我们可以绕过卡诺定理的限制，”她说。

阿雷斯在实验室中推动这些新边界，希望为更高效的能量收集、设备充电或计算铺平道路。这些实验还可能洞察我们所知的最有效信息处理系统——我们自身的机制。科学家们还不确定人脑如何仅用20瓦的功率完成极其复杂的心理运算。或许生物计算效率的秘密也在于利用小尺度的随机波动，这些实验旨在发掘出任何可能的优势。“如果这里确实有某种优势科研，自然界很可能已经在利用它了，”埃克塞特大学 (University of Exeter) 的理论学家珍妮特·安德斯 (Janet Anders)[47]说，她也是阿雷斯的合作者。“我们现在发展的这种基础理解，希望未来能帮助我们更好地理解生物如何运作。”

阿雷斯的下一轮实验将在她牛津实验室天花板上悬挂的热粉色冷藏室中进行。几年前，她开玩笑地向制造商建议改造，但他们警告说金属漆颗粒会干扰实验。后来，公司偷偷将冰箱送到汽车店，覆盖上闪亮的粉色薄膜。阿雷斯将她的新实验场地视为时代变迁的象征，反映了她对这场新工业革命与上一次不同的期望——更加注重道德考量、环境友好且包容多元。

“感觉我们正处于某件伟大而美妙事物开端的时刻，”她说。

拥抱不确定性

“当卡诺写下他的论文时……我认为没人能想象它会带来什么。”

卡洛·罗韦利，艾克斯-马赛大学

2024年9月，数百名研究者在法国帕莱索 (Palaiseau) 聚会[48]，纪念卡诺出版其著作200周年。来自不同科学领域的学者们探讨了熵在其研究中的独特印记——从太阳能电池的量子跃迁到黑洞的事件视界，熵无处不在。在欢迎开幕式致辞中，法国国家科学研究中心 (French National Center for Scientific Research) 的一位主任以国家名义作出历史性致歉，为当年对卡诺开创性工作的忽视郑重致意。当晚，研究者们聚集在一个奢华的金色餐厅，聆听由卡诺父亲创作的交响乐，由包括作曲家一位远亲在内的四重奏表演。

卡诺的深远洞见源于试图完全掌控机械世界，那是理性时代的圣杯。但随着熵的概念扩散到自然科学中，其目的发生了转变。如今对熵的深刻理解抛弃了对完全效率和完美预测的虚假梦幻想，转而承认世界中不可消减的不确定性。“在某种程度上，我们在多个方向上与启蒙主义分道扬镳，”理论物理学家罗韦利指出——从决定论和绝对主义转向不确定性和主观性。

无论我们接受与否，热力学第二定律都深刻塑造了我们对自身与宇宙的理解：我们不可避免地推动宇宙走向极度混乱的终局。不过，通过重新诠释熵，我们能以更加正面的角度看待这一现象。正是这种不可逆的能量耗散过程，为所有机器提供了动力源泉。尽管有用能量的减少确实从根本上限制了我们的技术发展，但范式的转变常能让我们在表面混乱中发现隐藏的有序结构。

更为关键的是，一个熵不断增加的宇宙同时也是一个充满无限可能性的宇宙。当我们不再徒劳地试图消除不确定性，而是学会管理并适应它时，我们会发现正是这种不可避免的未知状态激发了我们探索知识的原动力。从这个角度看，熵既是限制我们的约束，也是定义人类独特存在方式的基本条件。

你可以哀叹秩序不可避免的崩溃，也可以将不确定性视为学习、感知、推演、做出更好选择、以及利用“你”的力量的机会。

原文链接：

https://www.quantamagazine.org/what-is-entropy-a-measure-of-just-how-little-we-really-know-20241213/

参考文献

[1]https://www.quantamagazine.org/how-maxwells-demon-continues-to-startle-scientists-20210422/

[2]https://www.quantamagazine.org/how-life-and-death-spring-from-disorder-20170126/

[3]https://www.quantamagazine.org/first-support-for-a-physics-theory-of-life-20170726/

[4]https://www.nature.com/articles/430971a

[5]https://www.quantamagazine.org/what-is-time-a-history-of-physics-biology-clocks-and-culture-20200504/

[6]https://www.quantamagazine.org/quantum-entanglement-drives-the-arrow-of-time-scientists-say-20140416/

[7]https://sites.pitt.edu/~jdnorton/teaching/2559_Therm_Stat_Mech/docs/Carnot%20Reflections%201897%20facsimile.pdf

[8]https://creativecommons.org/licenses/by-nd/4.0/

[9]https://www.cpt.univ-mrs.fr/~rovelli/

[10]https://journals.aps.org/pr/abstract/10.1103/PhysRev.106.620

https://journals.aps.org/pr/abstract/10.1103/PhysRev.108.171

[11]https://cdn.aaai.org/AAAI/2008/AAAI08-227.pdf

[12]https://www.quantamagazine.org/the-thermodynamic-theory-of-ecology-20140903/

[13]https://www.quantamagazine.org/the-1-clue-to-quantum-gravity-sits-on-the-surfaces-of-black-holes-20240925/

[14]https://itp.phys.ethz.ch/people/person-detail.NTkyNzU=.TGlzdC84NDYsLTE5MDQ4MDM5ODI=.html

([15])https://creativecommons.org/licenses/by-nd/4.0/

[16]https://www.damtp.cam.ac.uk/user/tong/statphys/jaynes.pdf

[17]https://arxiv.org/abs/1711.07326

[18]https://www.cambridge.org/core/journals/philosophy-of-science/article/abs/k-g-denbigh-and-j-s-denbigh-entropy-in-relation-to-incomplete-knowledge-cambridge-cambridge-university-press-1985-vii-164-pp-3450/8CC10679F11E800A509A0B3C3C55DB8A

[19]https://www.physics.ucsc.edu/faculty/index.php?uid=anaguirr

[20]https://creativecommons.org/licenses/by-nd/4.0/

[21]https://arxiv.org/abs/2008.04409

[22]https://journals.aps.org/prxquantum/abstract/10.1103/PRXQuantum.2.030202

https://arxiv.org/abs/2404.11985

https://arxiv.org/abs/2406.01677

[23]https://link.springer.com/article/10.1007/s10701-023-00745-3

[24]https://arxiv.org/abs/2403.09403

[25]https://www.penguinrandomhouse.com/books/551483/the-order-of-time-by-carlo-rovelli/

[26]https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.117.260601

[27]https://www.quantamagazine.org/physicists-trace-the-rise-in-entropy-to-quantum-information-20220526/

[28]https://fqxi.org/programs/events/2023-uk-retreat/

[29]http://www2.hawaii.edu/~sstill/

[30]https://link.springer.com/article/10.1007/BF01341281

[31]https://creativecommons.org/licenses/by-nd/4.0/

[32]https://www.sfipress.org/02-szilard-1929

[33]https://arxiv.org/abs/2103.15803

[34]https://www.quantamagazine.org/new-theory-cracks-open-the-black-box-of-deep-learning-20170921/

[35]https://arxiv.org/abs/2309.10580

[36]https://arxiv.org/abs/2402.17860

[37]https://www.pnas.org/doi/full/10.1073/pnas.2023356118

[38]https://www.tandfonline.com/doi/full/10.1080/23746149.2024.2352112

[39]https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.131.057101

[40]https://meetings.aps.org/Meeting/MAR24/Session/A28.2

[41]https://eng.ox.ac.uk/people/natalia-ares/

[42]https://www.youtube.com/watch?v=xmgiav22hqI&t=2s&ab_channel=FQxI

[43]https://arxiv.org/abs/2402.19288

[44]https://phfaist.com/d/entropyzoo/TheEntropyZoo-150dpi.jpg

[45]https://quics.umd.edu/people/nicole-yunger-halpern

[46]https://journals.aps.org/prxquantum/abstract/10.1103/PRXQuantum.5.030355

[47]https://physics-astronomy.exeter.ac.uk/people/profile/index.php?username=ja343

[48]https://carnot-legacy.sciencesconf.org/

（参考文献可上下滑动查看）

阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”

https://wx.zsxq.com/group/454854145828

未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828 进入。