来源：智源社区

导读：谁是当前全球最具影响力的认知神经科学家？很多人会想到英国伦敦大学学院（UCL）的Karl Friston（卡尔·弗里斯顿）。2016年被Semantic Scholar评为全球十大最具影响力神经科学家之首[1]，h-index高达255[2]，2017年，科睿唯安（Clarivate Analytics）将他列为诺贝尔生理或医学奖三大最有可能的获奖人之一[3]。

在本届智源大会上，弗里斯顿教授将在人工智能的认知神经基础论坛上做主题报告（报名链接：https://2022.baai.ac.cn/）。智源社区有幸采访了弗里斯顿教授，请他为我们介绍自由能原理（亦称“主动推理”），并为人工智能的未来发展做前瞻解读。

图注：弗里斯顿教授。（来自连线杂志文章[4]）

自由能原理：解释认知和行为的根本来源

自由能原理的核心观点在于：一个系统（比如大脑）会努力最小化其信念以及与真实世界之间的差距。举例说明，我们的大脑会首先对外部世界进行建模，形成其对外部世界的信念（可视为贝叶斯中的先验）。接着，大脑通过感受器，源源不断地汲取有关外部世界的信息，并做出预测。

由于外界的输入和自身原本的建模之间存在一定的差距，这种差距便被弗里斯顿称为自由能量（Free Energy），表示的是个体期望的状态与个体感官感受到的状态之间的差异，是一种预测误差（Prediction Error）。为了减少外界对我们的信念所带来的意外程度（Surprise），我们需要最小化自由能量。

图注：细胞或大脑降低自由能函数，更新信念的机制[5]

降低预测误差能够解释什么？弗里斯顿认为这解释了认知和行动的根本来源。对于认知而言，当我们在更新预测，降低预测误差时，我们的预测会逐渐接近于实际的感知，最终使我们形成对于真实世界的认知情况。当预测误差最小时，我们内部的模型便会为感知输入提供充分的解释。例如，对于一种视觉感知信号输入（如他人的表情变化），我们通过最小化自由能量函数，对输入的信号建模出一张人脸，从而解释了这种视觉输入的模式。

对于运动或肌肉知觉而言，预测能够驱动我们去改变世界的状态，使其符合我们自身的期望，这是驱动我们去探索和改变世界的动力源泉。例如，当我们正在接近某个物体时，会产生对于这种物体的体感和肌肉知觉的预测。而为了验证这种预测，降低未来的自由能，神经反射会驱动我们去移动胳膊，触碰物体，获得有关物体的信息。

弗里斯顿认为，自由能原理实际上和我们所熟悉的诸多理论有着联系。首先，其可以被解释为预期信息增益和偏好（Preference）。其中，预期信息增益能够解释好奇这一行为，如探索新的环境来降低不确定性和对于未来的预测错误。而偏好则可以对决策理论（Decision Theory）提供支持。

自由能原理与人工智能：迈向认知智能

自由能原理对人工智能的发展有何助力？弗里斯顿认为，自由能原理提供了对于意识行为最为完备的解释，其将贝叶斯优化和感知-认知结合，并用主动推理来解释智能体更新认知、探索和改变世界的机制机理，这对于研究通用人工智能十分重要。

然而，主动推理和深度学习在优化世界状态的信念方面存在几个方面的区别。一是主动推理要求模型优化的是对于信念的函数（如对于隐状态和计划的概率分布），而深度学习优化的是状态函数。二是自由能原则只定义在一个概率生成模型上。所以任何基于主动推理的模型都是可解释的（Explainable & Interpretable），而深度学习模型的可解释性较差。

三是主动推理的公式由预期自由能表示，其将寻找信息和偏好纳入同一个目标函数中，避免了探索-利用困境（Exploration-exploitation Dilemma）。例如，英国苏赛克斯大学等机构研究者将主动推理应用于强化学习中，是智能体较好地平衡了探索-利用，并提供了一种更为灵活的奖励函数[6]。

人工智能研究者应当怎样吸纳自由能原理？弗里斯顿认为，从理论上，自由能理论提供了理解系统智能和行为的原则及机理，从细胞的形态形成和自组织，到理论生物学上的理想结构。通常，人们可以使用计算机模拟验证的方式，将自由能原理应用于系统和智能体中。

同时，人们依赖生成模型来对研究的现象加以解释。这意味着许多理论研究者可以使用自由能原理来发现用于解释特定行为的理想生成模型。

此外，研究者可以采用最先进的机器学习技术，来实现真实世界条件下的主动推理技术，如机器人。例如，一些研究者可以关注由主动推理带来的数据同化（Data Assimilation）效率问题。而在边缘计算领域，研究者可以研究积极获取正确类型的数据，用于规划和信念的更新（如对于监控摄像头和数据挖掘应用）。

最后，研究者也可以利用计算机模拟的方式，在统计模型和行为选择中的经验观测模型中实现主动推理。其中一个最好的例子是使用计算机模拟的方式开展精神病学研究，研究者可以对于一个模拟或人工的智能体调整其先验，来最大化一个真实人类在经验选择方面的似然。这能够使研究者根据病人的先验信念建立起表型（Phenotype）。简而言之，自由能原理能够使研究者根据人们持有的先验信念或固有的范式来提取表征。

自由能原理的未来：探索新的理论联系，加快在AI领域的应用

谈到自由能原理未来的发展，弗里斯顿认为有很多突出的问题尚未解决，如自组织的贝叶斯机制，以及扩大主动推理的规模，使其可以在人工智能研究中部署应用。在理论研究方面，自由能原理与量子计算、以及规范场论等学科之间的联系值得进一步探究。此外，弗里斯顿也列举了一些可能需要全面探索的领域，如游荡集，以及在不同等级的自由能最小化过程中的时间尺度分割问题（如推理和学习的分割、学习和模型选择之间的分割等）。

在应用方面，有许多研究体现了主动推理的一些思路，如深度树搜索中的规划需要使用预期自由能。另一个开放且重要的问题在于结构学习，以及其与贝叶斯模型的选择和使用变分自由能来选择合适的结构和函数形式，这可能能够表示一个智能体或一个生物的生成模型。

弗里斯顿：自由能理论之外，也是大脑成像领域顶级学者

弗里斯顿生于1959年的英国约克，在本科毕业于剑桥大学，并在伦敦国王学院完成医学院学习。1994年，他加入UCL，并与深度学习三巨头之一的杰弗里·辛顿（Geoffrey Hinton）成为朋友。在与辛顿的交流中，弗里斯顿逐渐接受了一种想法：探索大脑最好要像一台贝叶斯推理机。这为日后弗里斯顿提出自由能原则奠定了理论基础。[4]

图注：弗里斯顿办公室中著名的“马尔科夫毯” （受访者提供）。在自由能原理中，马尔科夫毯代表着系统与环境的边界。

弗里斯顿教授设计了许多大脑成像仪器和软件，成为当前大脑成像研究的基础。然而他的“正职”之外更为重要的，是发展自由能原理（Free Energy Principle）。基于这一理论，弗里斯顿相信它能够解释智能的组织原理。连线杂志报道不吝赞美之词，将自由能原理称为：“自达尔文自然选择理论后最包罗万象的思想”（the most all-encompassing idea since Charles Darwin’s theory of natural selection）。[4]

多年来，弗里斯顿笔耕不辍。据统计，2000年以来，他已经发表了1000多篇学术论文。仅2017年，他就以一作和合作作者身份发表了85份出版物。[4]

图注：弗里斯顿办公室一角（受访者提供）

在本次大会上，弗里斯顿将介绍其在自由能原理领域的研究进展，重点聚焦预期自由能为我们行为提供解释的基础作用。换句话说，他的演讲将会通过从不同的视角看待预期自由能，从而阐释信息和偏好搜索行为之间的紧密关系。此外，他还会举出很多实例来介绍基本的概念。

图注：60岁生日聚会上的弗里斯顿（受访者提供）

采访最后，弗里斯顿表达了对2022年智源大会的美好祝愿。他说：

我很高兴也很荣幸能够参加这次会议。对于人工智能研究来说，这显然是一个激动人心的时刻——这次会议提供了一个完美的论坛，让我们能够庆祝那些激动人心的时刻、投入和近期进展。

I am delighted and honoured to be part of this conference. This is clearly an exciting time for artificial intelligence research – and this conference provides the perfect forum to celebrate this excitement, investment and recent advances.

--Karl Friston

参考链接

[1] Bohannon, John (11 November 2016). "A computer program just ranked the most influential brain scientists of the modern era". sciencemag.org. Retrieved 5 January 2017.

[2] https://scholar.google.co.uk/citations?user=q_4u0aoAAAAJ&hl=en

[3] https://www.ucl.ac.uk/news/2017/sep/karl-friston-named-one-22-researchers-predicted-win-nobel-prize

[4] The Genius Neuroscientist Who Might Hold the Key to True AI：https://www.wired.com/story/karl-friston-free-energy-principle-artificial-intelligence/

[5] Free Energy Principle: https://en.wikipedia.org/wiki/Free_energy_principle

[6] Tschantz, Alexander, et al. "Reinforcement learning through active inference." arXiv preprint arXiv:2002.12636 (2020).

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）大脑研究计划，构建互联网（城市）大脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”