个体信息理论 笔记

圣塔菲研究所提出“个体信息理论”

系统环境作用因果图

互信息量的分解

𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛)
联合消息𝐸𝑛,𝑆𝑛和消息𝑆𝑛+1之间的互信息量
在时间 𝑛+1 时，未来个体状态 𝑆𝑛+1 和上一个时间段的系统自身（前代）𝑆𝑛 和 环境信息 𝐸𝑛 的联合状态之间的互信息

第一种分解 生物体内源决定（Endogenous determination）

𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛) = 𝐼(𝑆𝑛+1;𝑆𝑛) + 𝐼(𝑆𝑛+1;𝐸𝑛|𝑆𝑛)
𝐼(𝑆𝑛+1;𝑆𝑛)
消息𝑆𝑛和消息𝑆𝑛+1之间的互信息量
𝐼(𝑆𝑛+1;𝐸𝑛|𝑆𝑛)
给定消息𝑆𝑛的条件下消息𝐸𝑛中包含的关于消息𝑆𝑛+1的信息量
从环境流向个体的新信息
个体受环境控制的程度

第二种分解 环境驱动（Environmentally driven）

𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛) = 𝐼(𝑆𝑛+1;𝐸𝑛) + 𝐼(𝑆𝑛+1;𝑆𝑛|𝐸𝑛)
𝐼(𝑆𝑛+1;𝐸𝑛)
消息𝐸𝑛和消息𝑆𝑛+1之间的互信息量
环境的影响
𝐼(𝑆𝑛+1;𝑆𝑛|𝐸𝑛)
给定消息𝐸𝑛的条件下消息𝑆𝑛中包含的关于消息𝑆𝑛+1的信息量
自身的影响

更细粒的尺度

𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛)
在时间 𝑛+1 时，未来个体状态 𝑆𝑛+1 和上一个时间段的系统自身（前代）𝑆𝑛 和 环境信息 𝐸𝑛 的联合状态之间的互信息

𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛) 的分解

 

a 个体信息 𝑈𝐼(𝑆𝑛+1;𝑆𝑛∖𝐸𝑛)：只来自个体自身并由系统自身维持；
b 共享信息 𝑆𝐼(𝑆𝑛+1,𝑆𝑛,𝐸𝑛)：个体和环境之间共享的信息；
c 环境信息 𝑈𝐼(𝑆𝑛+1;𝐸𝑛∖𝑆𝑛)：环境对个体影响的信息，狭义上即感官的信息流；
d 交互信息 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛)：协同信息，只存于个体系统和环境的交互作用中。

有机个体（Organismal Individuality）

有机个体 = 共享信息 + 个体信息
𝐴∗ :=𝐼(𝑆𝑛+1;𝑆𝑛） = 𝑆𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) + 𝑈𝐼(𝑆𝑛+1;𝑆𝑛∖𝐸𝑛)
当生物体能通过适应或学习与所处的环境共享重要信息时，它们就具有良好的适应性。
此外有机个体还包含了有效运作时所需要的大量私有信息。
通过最大化这种度量，我们能够在环境中识别出复杂的有机个体。

环境驱动个体（Environmental Determined Individuality）

环境驱动个体 = 交互信息 + 环境信息
𝑛𝐶 = 𝐼(𝑆𝑛+1;𝐸𝑛|𝑆𝑛) = 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) + 𝑈𝐼(𝑆𝑛+1;𝐸𝑛∖𝑆𝑛)
这个指标量化了个体在时间演化中被环境决定的程度。
当度量降到最低时，个体对环境完全不敏感，因此既不具有有机体的形式，也不具有群落个体的形式，没有任何实质意义上适应性。
它通过与生成结构的系统的 交互作用，表征了环境记忆的持久性，例如产生漩涡的流体中的温度梯度。

群落个体（Colonial Individuality）

群落个体 = 交互信息 + 个体信息
𝐴 := 𝐼(𝑆𝑛+1;𝑆𝑛|𝐸𝑛） = 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) + 𝑈𝐼(𝑆𝑛+1;𝑆𝑛∖𝐸𝑛)
许多生物体，如微生物，只与它们所处的环境共享少量的信息。
它们含有调节机制，与生物和非生物环境之间的持续交互作用来实现适应。
通过最大化这种度量，我们能够识别出这种 "环境调节的聚合体"，即群落个体。

环境编码

环境编码 = 共享信息 - 交互信息
𝑁𝑇𝐼𝐶 = 𝑆𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) - 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛)
有机个体和有机个体之间的差异