HMM经典介绍论文【Rabiner 1989】翻译（三）——抛硬币实验和碗中的球实验

2.1 扩展到HMM

目前我们介绍了Markov模型，其中每个状态和一个可观测（物理）事件相关。这种模型很难应用到很多实际问题中去。这一小节，我们拓展Markov模型，考虑观测是状态的概率函数的情况，这样得到的模型（称为HMM）是双随机过程，其中底层的随机过程是观测不到的，只能观测到生成观测序列的那个随机过程。下面介绍一个抛硬币的例子。

抛硬币模型：假设你在一个有帘子的房间中，因为帘子阻挡了视线，你看不到发生了什么。帘子的另一面有个人正在抛一个硬币（或者多个）。这个人不会准确告诉你他正在做什么事，他只会告诉你每次抛硬币的结果。这样一组隐藏抛硬币实验就完成了，能观测到的序列是一组正或反序列，即

$$\begin{align} O&=\\{O_1O_2O_3\cdots O_T\\} \nonumber \\\\ &={\cal HHTTTHTTH}\cdots {\cal H} \nonumber \end{align}$$

其中$\cal H$表示正面，$\cal T$表示反面。

我们该如何构造一个HMM来解释观测到的正反序列呢？首先，我们需要确定这个模型中的状态是什么，并且确定有多少状态。一个简单的设置是假设只有一个硬币。这样我们用2状态模型就可以对这种情况建模，每个状态表示硬币的正面或者反面，模型如图2(a)所示。这种情况下，Markov模型是可以观测到的，我们只需要确定抛出正面或者反面的概率（称为硬币的偏置），就可以确定这个模型。有意思的是，等价于图2(a)的HMM是一个退化的1状态模型，其中状态表示这个硬币，未知参数是硬币的偏置。

第二种HMM如图2(b)所示。这种情况下，模型有两种状态，每种状态代表不同的硬币。每个状态由正反面的概率分布进行表征，并且用状态转移矩阵来表征状态转移。

第三种HMM如图2(c)所示。这个模型中有三个硬币，根据某种概率分布随机地选择一个硬币，然后进行抛掷。

给定上面三种模型后，我们希望知道哪个模型最好地解释了实际观测序列。现在，1-硬币模型中只有一个未知参数；2-硬币模型中有4个未知参数；3-硬币模型中有9个未知参数。由于最大的HMM有更大自由度，所以似乎能更好地对抛硬币实验进行建模。尽管理论上这是正确的，我们后面会看到实际问题会对模型的大小施加一些约束。而且实际上可能真的只有一个硬币。所以直接使用图2(c)中的3-硬币模型并不合适。

碗中的球模型：为了把HMM的思想应用到更复杂的情况中去，考虑图(3)中的碗中的球系统。假设房间中放了 N <script id="MathJax-Element-4" type="math/tex">N</script>个玻璃碗，一人根据某个随机过程选择第一个碗，然后从这个碗中随机选择一个球，这个球的颜色作为观测值。然后把球放回到这个碗里面。然后根据当前碗的随机选择过程，再选择一个新的碗，然后从碗里面选择一个球。重复这个过程。最后得到有限个颜色观测序列，我们可以把它作为HMM的观测输出。

很明显，这个系统的最简单的HMM是让每个状态表示一个碗，并且定义每个状态的颜色概率。HMM的状态转移矩阵决定了碗的选择。