文献共读 Day6

文献信息

Pezzulo, G., Zorzi, M., & Corbetta, M. (2021). The secret life of predictive brains: What’s spontaneous activity for? Trends in Cognitive Sciences, 25(9), 730–743. https://doi.org/10.1016/j.tics.2021.05.007

文献解读

大脑自发活动的重要作用（1）.：

1. 当大脑休息的时候，它在做什么？
2. 自发活动 功能重要性 的 4个标志

3.大脑自上而下的加工与自发活动：生成模型（generative model）的视角

on-line 自上而下的加工

on-line 任务期间：自上而下的大脑动态 可能与 预测、注意、刺激加工的背景化（contextualization）有关：

• 自上而下的加工由 内部信号（如记忆-水果吃完了）或外部信号（如杂货店标志）触发，可以维持很长一段时间，指导（部分是通过调节大脑节律 ） 视觉探索和感知。自上而下的加工将感觉表征向相关刺激（如苹果）调节，而远离不相关的刺激物（如面包、肉类）

自上而下的大脑动态 反映了大脑对环境和身体的生成模型：

• 从生成模型的角度来看，感知、行动选择和学习都是 统计推理 的问题。例如，感知 = 无意识推断 观察结果的潜在原因（如，哪个物体引起了视网膜的活动）
  • 这些问题通过生成模型解决，包括 两个要素：视觉场景中物体的先验概率、物体和刺激之间的可能性映射（哪些刺激更有可能被看见），通过贝叶斯使用这两个要素加上感觉数据 来推断后验概率，从而作出判断。

Box1 见原文
1.生成建模的生物实现实例（预测编码）
2.自上而下的动态对无监督学习和生成模型参数的更新：博尔茨曼机器（RBM）：一种随机的复发神经网络

预测编码（predictive coding）：自上而下的活动通过整合自上而下的预测和自下而上的刺激来更新知觉表征。

在分层递归神经网络（HRNN，deep Boltzmann machine）中（下图），自上而下的信号生成了指导学习的虚拟数据，并在以后的推理过程中传递信息，帮助解决较低层次的不确定性。

• 上述理论先前关注的都是 on-line任务期间 自上而下的加工，而不是休息时的自发活动。然而，如果大脑网络实现了生成模型，将不断地进行推理和生成过程。
  

off-line 自发活动

任务执行期间和休息期间生成过程之间的根本区别：

• 任务执行期间，自上而下的加工使大脑准备加工特定的刺激和即将到来的行为（对预期刺激编码，放弃对unexpected 刺激的编码）→ 主动行为期间的准备信号编码了特定环境的任务信息。
• 休息期间，自发活动动态并不局限于“回放”，而是为大脑处理更广泛的刺激和未来行为的反应做准备，主要是以一种 context-independent manner。

从形式上看，脱离当下的 action-perception 循环，可以优化生成模型：

• 统计推理不断地平衡 两个必要条件：（1）最大限度地提高解释的准确性（以适应数据）；（2）最小化模型的复杂性（以避免过度拟合）。
  • 准确性和复杂性的平衡可能在任务和休息状态之间发生变化——休息状态更关注复杂性（刺激较弱时，准确性不那么重要）。

最大熵原则（maximum entropy principle）：没有数据的情况下，我们应该对世界的状态采取 最大限度的不确定信念，即最大限度地提高解释的熵，并 “保持选项开放”。（under statistical framework）

本文观点：（1）使解释的熵最大化的必要性导致了 通用先验（generic priors）的形成，这在低维（low-dimensional）大脑状态之间的转换中变得明显。（2）最小化模型复杂性的要求可能会导致模型的减少（model reduction）和突触的减少（synaptic pruning）。

4.模型的先验

类似predictive coding的情况下：（1）在高水平上编码的先验（priors ）自上而下地传播，预测较低水平上即将出现的刺激。（2）如果产生预测错误，则予以纠正。（3）离线期间，自下而上的刺激很弱或不存在；它们不能引起预测错误来纠正先验，因此不断地被重新生成（reiterated）（4）此时，大脑的生成模型可能会重新循环（recirculate (or resample) ）模型的先验，或者重新循坏感觉运动行为和暴露于外部刺激时获得的 时空模式（spatiotemporal patterns ）

本文认为：离线活动反映了两种先验：表征（representations）和连接模式（connectivity patterns）（两者在大脑中紧密结合）

通用先验（generic priors）：表征（Representations）

在离线期间，需要 "解释 "的刺激较少，这有利于 通用先验 的形成：先验表征与 特定数据点 无关，与 数据分布及其自然统计 相关。（通用先验包括 环境、行为、感觉间和认知模式）

• 在生成性神经网络中，通用先验 对应信息压缩的低维状态，概括了大量的信息，抽象了具体的刺激。
• 由于分层网络连续进行信息压缩，它们在更高的分层水平上编码从简单到复杂的总结性表征，并能在不同的认知任务中循环使用。
• 因此，通用先验嵌入了 感知、认知或运动模式 的低维表征（总结了各种自然任务的统计数据，具有普遍用途）。

从解剖学角度看，信息压缩可能是沿着一个层次结构运作的，底部是初级感觉和运动区域（高度颗粒化的皮质），顶部是颗粒较小的异质区域（包括边缘皮层）。顶部结构表明，大脑的生成模型可以沿着 行为相关和感知间的维度 组织信息，对 "‘the body in the world"建模，而不是仅反映外部感知的统计信息。

• 神经元水平表明，大脑皮层中的刺激或运动不是单独编码的，而是通过低维的潜变量来概括单个刺激或行动的变异性。例如：联想视觉皮层对许多不同刺激的fMRI反应可以用相对较少的维度来概括（如 animacy Vs non-animacy）。

• 神经（和行为）模式的这种低维性在静止状态下也应是明显的。：

  • 联想视觉皮层中，自发的多体素fMRI活动更可能表征 特定领域的原型样刺激，而不是个别刺激（下图B）
  • 运动皮层中，多体素静止活动更有可能表征 常见的动作 而非 不常见的动作
  • 重要的是，这些自发模式在感觉皮层中不一定是感觉特异性的，在运动皮层中也不一定是运动特异性的，而是可能反映了在自然行为中、统计学上相关的、由结构-功能连接的更普遍的模式。（视觉皮层中对特定类别（身体）有反应的区域在伸手运动中也有反应）

本文观点：自发神经模式的低维 可能反映了通用先验之间的缓慢转换（上图D，调节普遍的行为模式）。跨越大脑状态序列的动态可能反映了解释熵的最大化（the exploration of the brain’s dynamic repertoire），生成模型存在于没有数据解释的情况下，以保持灵活性。【尚未理解】

先验：连接模式（Connectivity patterns）（待看）

5.在没有新数据的情况下学习更简单、更准确的生成模型（待看）