理解Markov假设

引言

Markov假设是基于模板表示的时序模型的基础。也是理解HMM的前提。
简单说来，Markov假设使得概率计算得到简化。下面讲解如何直观的理解Markov假设，以及它详细推导过程。

时序模型

当对动态环境进行建模时，我们感兴趣的是，当问题的状态随时间变化时，对其关于状态进行推理。

这种环境可以根据系统状态进行建模。用$X^{(t)}$表示系统变量（也叫模板变量）。可以用下面的贝叶斯网来表示时序模型。

在这个模型中，概率$P(X^{(0:T)})$的表达如下：

$$P(X^{(0:T)})=P(X^{(0)}, X^{(1)}, X^{(2)}, ... , X^{(T)})$$

概率$P(X^{(0:T)})$的计算如下：

$$P(X^{(0:T)})=P(X^{(0)}, X^{(1)}, X^{(2)}, ... , X^{(T)})$$
$$=P(X^{(0)})P(X^{(1)}|X^{(0)})P(X^{(2)}|X^{(0:1)})...P(X^{(T)}|X^{(0:T-1)})$$

所以，一般表达式为：

$$P(X^{(0:T)})=P(X^{(0)})\prod_{0}^{T-1}P(X^{(t+1)}|X^{(0:t)})$$

这个概率的计算还是比较复杂的。有没有办法简化呢？

Markov假设

只要时序模型满足Markov假设，概率$P(X^{(0:T)})$的计算就能得到简化。

所谓Markov假设，就是

$$X^{(t+1)}\perp X^{(0:t-1)} | X^{(t)}$$

即$X^{(t+1)}$与$X^{(0:t-1)}$关于$X^{(t)}$条件独立。

满足Markov假设的贝叶斯网如下

这样的贝叶斯网比上图简化了不少，所以计算$P(X^{(0:T)})$也得到了简化：

$$P(X^{(0:T)})=P(X^{(0)})\prod_{0}^{T-1}P(X^{(t+1)}|X^{(t)})$$

总结

满足Markov假设后，概率$P(X^{(0:T)})$的计算可以得到简化。满足Markov假设的贝叶斯网，各模板变量之间的关系也简单一些。

参考

• (1) Daphne Koller。概率图模型。第六章-基于模板的表示