25-线性动态系统-linear-dynamic-system

1.背景

我们知道对于一般的概率图模型加上时间就组成了动态系统，即：
$$图+时间=动态系统\text{\hspace{1em}(1)}$$
动态模型的图结构如下：

动态模型根据隐变量和观测变量之间的关系分成三类：

• 1.隐马尔可夫模型HMM：要求隐状态变量Z是离散变量；对于观测变量X是没有要求的，可以是离散也可以是连续变量
• 2.1卡曼滤波(Kalman-Filter):要求隐变量Z和观测变量X都是连续的，而且都是服从高斯分布的。也是线性高斯模型
• 2.2 粒子滤波(Particle-Filter):要求隐变量Z和观测变量X都是连续的,但不服从高新分布，变量之间也不是线性关系。

2.目标

对于线性动态系统来说，我们有两类问题。

• 学习learning问题：即根据所看到的观测变量X，将模型的参数估计出来。
• 推断inference问题：1.decoding；2.Prob-of-evidence；3.filtering问题；4.smoothing问题；5.prediction问题

3.线性高斯模型分析

我们知道线性高斯模型结构图，那么为啥角线性高斯模型呢？它的线性体现在哪里？它的高斯又体现在哪里？

• 线性关系表示：$Z_t和Z_{t-1}是线性关系；X_t和Z_t是线性关系$
  $$Z_t=A\cdot Z_{t-1}+B+\epsilon \text{\hspace{1em}(2)}$$
  $$X_t=C\cdot Z_t+D+\delta \text{\hspace{1em}(3)}$$
• 高斯表示：即噪声$\epsilon 服从高斯分布即：\epsilon \sim N(0,Q);即噪声\delta 服从高斯分布即：\delta \sim N(0,R)$

由上述公式可得如下关系：
$$P(Z_t|Z_{t-1})\sim N(A\cdot Z_{t-1}+B,Q)；此时Z_{t-1}看作已知\text{\hspace{1em}(4)}$$
$$P(X_t|Z_t)\sim N(C\cdot Z_t+D,R);此时Z_t看作已知\text{\hspace{1em}(5)}$$
以上为递推公式，所以我们还要定义一个初始化参数$Z_1\sim N({\mu }_1,{\Sigma }_1)$,所以综上所示，模型的参数$\theta$
$$\theta =(A,B,C,D,Q,R,{\mu }_1,{\Sigma }_1)\text{\hspace{1em}(6)}$$

4.Filtering 问题分析

我们知道filtering问题的目标是为了求解边缘后验概率$P(Z_t|X_1,X_2,...,X_t)$的值。如下图所示：

解析概率如下：
$$P(Z_t|X_1,X_2,...,X_t)=\frac{P(X_1,X_2,...X_t,Z_t)}{P(X_1,X_2,...,X_t)}\propto P(X_1,X_2,...X_t,Z_t)\text{\hspace{1em}(7)}$$

• 注：因为观测变量P(X)已知，故$P(X_1,X_2,...,X_t)$为常量。
  化简$P(X_1,X_2,...X_t,Z_t)$可得如下：
  $$P(X_1,X_2,...X_t,Z_t)=P(X_t|X_1,X_2,...X_{t-1},Z_t)\cdot P(X_1,X_2,...,X_{t-1},Z_t)\text{\hspace{1em}(8)}$$
• 由观测独立性假设可得：$P(X_t|X_1,X_2,...X_{t-1},Z_t)=P(X_t|Z_t)$
  $$P(X_1,X_2,...X_t,Z_t)=P(X_t|Z_t)\cdot P(X_1,X_2,...,X_{t-1},Z_t)\text{\hspace{1em}(9)}$$
  化简$P(X_1,X_2,...,X_{t-1},Z_t)$可得如下：
  $$P(X_1,X_2,...,X_{t-1},Z_t)=P(Z_t|X_1,X_2,...,X_{t-1})\cdot P(X_1,X_2,...,X_{t-1})\text{\hspace{1em}(10)}$$
• 注：$P(X_1,X_2,...,X_{t-1})对于Z来说是常量故可以忽略$
  所以可得：
  $$P(Z_t|X_1,X_2,...,X_t)\propto P(X_t|Z_t)\cdot P(Z_t|X_1,X_2,...,X_{t-1})\text{\hspace{1em}(11)}$$
  化简概率$P(Z_t|X_1,X_2,...,X_{t-1})$：prediction预测问题，可得如下：
  $$P(Z_t|X_1,X_2,...,X_{t-1})={\int }_{Z_{t-1}}P(Z_t,Z_{t-1}|X_1,X_2,...,X_{t-1})d{Z}_{t-1}\text{\hspace{1em}(12)}$$
  $={\int }_{Z_{t-1}}P(Z_t,Z_{t-1}|X_1,X_2,...,X_{t-1})d{Z}_{t-1}$

展开可得：

$={\int }_{Z_{t-1}}P(Z_t|Z_{t-1},X_1,X_2,...,X_{t-1})\cdot P(Z_{t-1}|X_1,X_2,...,X_{t-1})d{Z}_{t-1}$

• 注：由齐次马尔可夫假设可得：

$P(Z_t|Z_{t-1},X_1,X_2,...,X_{t-1})=P(Z_t|Z_{t-1})$；

• 注：$P(Z_{t-1}|X_1,X_2,...,X_{t-1})是规模为t-1的filtering滤波问题$

综上所述递归式可得预测问题prediction如下：
$$P(Z_t|X_1,X_2,...,X_{t-1})={\int }_{Z_{t-1}}P(Z_t|Z_{t-1})\cdot \underset{filltering-(t-1)}{\underbrace{P(Z_{t-1}|X_1,X_2,...,X_{t-1})}}d{Z}_{t-1}\text{\hspace{1em}(13)}$$

• 通过上式可以知道，我们最终得到了规模为 t-1大小的filtering问题，这样就可以得到递归式了，那么我们可以总结，在一个规模为t的filtering问题中，通过prediction问题来构建一个规模为(t-1)大小的filtering问题，从而构成了一个递归式。

递归过程问题如下：update也叫修正，这个算法也叫online问题；

• t=1
  $$P(Z_1|X_1)；->update$$
  $$P(Z_2|X_1)；->prediciton$$
• t=2
  $$P(Z_2|X_1,X_2)；->update$$
  $$P(Z_3|X_1,X_2)；->prediciton$$
• t =k
  …
• t = T
  $$P(Z_T|X_1,X_2,...,X_T)；->update$$
  $$P(Z_{T+1}|X_1,X_2,...,X_T)；->prediciton$$
  所以我们看出来，我们可以看到Filtering 问题可以被大致分成两个部分，也就是Prediction 和Update 两个部分。

5.filtering问题具体分析

5.1 线性高斯分布公式

对于高斯分布来说，它具有非常好的性质，就是如果一个变量分布满足高斯分布，那么由于高斯分布具有自共轭分布性质，所以其高斯分布的条件概率分布，边缘概率分布，联合概率分布都是服从高斯分布的，这样就极大的方便和构造模型，为了以后的计算提供了更加简洁的方式。高斯分布基础

• 前提：X,Y是X的线性关系变量，Y=AX+b满足如下性质：
  $$P(X)=N(X|\mu ,{\Lambda }^{-1})\text{\hspace{1em}(14)}$$
  $$P(Y|X)=N(X|AX+b,L^{-1})\text{\hspace{1em}(15)}$$
  $$P(Y)=N(Y|AX+b,L^{-1}+A^{-1}\Lambda A)\text{\hspace{1em}(16)}$$
  P ( X ∣ Y ) = N ( Σ { A T L ( y − b ) + Λ μ , Σ } ) ; Σ = ( Λ + A T L A ) − 1 (17) P(X|Y)=N(\Sigma\{A^TL(y-b)+\Lambda \mu,\Sigma\});\Sigma=(\Lambda+A^TLA)^{-1}\tag{17} P(X∣Y)=N(Σ{ATL(y−b)+Λμ,Σ});Σ=(Λ+ATLA)−1(17)

5.2 prediction问题分布

由上述我们知道滤波问题分成两个部分，第一部分是prediction问题，第二部分是update问题；prediction问题是为了求解概率值：$P(Z_t|X_1,X_2,..,X_{t-1})$,分析如下：
$$P(Z_t|X_1,X_2,..,X_{t-1})={\int }_{Z_{t-1}}P(Z_t|Z_{t-1})\cdot P(Z_{t-1}|X_1,X_2,...,X_{t-1})d{Z}_{t-1}\text{\hspace{1em}(18)}$$
由联合高斯分布的自共轭性，所以目标概率$P(Z_t|X_1,X_2,..,X_{t-1})$也一定服从高斯分布。即prediction和update 也一定服从高斯分布的。

• 注：此时在第 t 时刻可以知道，$X_1,X_2,...X_{t-1}$为已知量，故可以看作常量来忽略。所以$P(Z_{t-1}|X_1,X_2,...,X_{t-1})$可以看作为$P(Z_t)$,为了方便后续的转换，我们将$Z_t看作Y，Z_{t-1}看作X$
  所以原式可以看成如下：
  $$P(Y)={\int }_{X}P(Y|X)\cdot P(X)dX\text{\hspace{1em}(19)}$$

• 由公式<4>,<5>可得：
  $$P(Z_t|Z_{t-1})\sim N(A\cdot Z_{t-1}+B,Q)；此时Z_{t-1}看作已知\text{\hspace{1em}(20)}$$
  $$P(X_t|Z_t)\sim N(C\cdot Z_t+D,R);此时Z_t看作已知\text{\hspace{1em}(21)}$$

• 定义第t时刻的分布$P(Z_t|X_1,X_2,...,X_t)\sim N({\mu }_t,{\Sigma }_t)$，我们假设目标预测$P(Z_t|X_1,X_2,..,X_{t-1})$服从正太分布 $N\sim ({\mu }_t^{\ast },{\Sigma }_t^{\ast })$
  那么我们可以将公式18分布如下：
  $${\mu }_t^{\ast }=A{\mu }_{t-1}+B\text{\hspace{1em}(22)}$$
  $${\Sigma }_t^{\ast }=Q+A{\Sigma }_{t-1}{A}^T\text{\hspace{1em}(23)}$$

5.3 update问题分布

对于update 问题来说，我们的目标是为了求解如下：
$$P(Z_t|X_1,X_2,...,X_{t-1},X_t)\propto P(X_t|Z_t)\cdot P(Z_t|X_1,...,X_{t-1})\text{\hspace{1em}(24)}$$

• 注：在这一步中，我们知道$X_1,X_2,...X_{t-1}$为已知量，故可以看作常量来忽略。而$X_t$为未知量，所以目标概率可改写成如下：
  $$\underset{P(X|Y)}{\underbrace{P(Z_t|X_1,X_2,...,X_{t-1},X_t)}}\propto \underset{P(Y|X)}{\underbrace{P(X_t|Z_t)}}\cdot \underset{P(X)}{\underbrace{P(Z_t|X_1,...,X_{t-1})}}\text{\hspace{1em}(25)}$$
• 注，我们就可以根据上述式子来分析，当我们知道X分布，Y|X分布时，求解X|Y分布，可以根据公式17来求解X|Y的期望和方差即可。具体解析套用公式即可，后续再写。