HMM经典介绍论文【Rabiner 1989】翻译（四）——HMM的五个基本元素

2.2 HMM的基本元素

通过上面的例子，我们知道了HMM是什么并且知道怎么把它应用到一些简单场景中。现在我们给出HMM基本元素的正式定义，并且解释模型是如何生成观测序列的。

一个HMM包含：

1）N，模型中的状态数。尽管状态是隐藏的，但是在很多实际应用中，状态经常被赋予一些物理意义。在抛硬币的实验中，每个状态表示一个硬币。在碗中的球模型中，每个状态表示一个碗。状态之间是相互连接的，通常每个状态可以到达所有的状态，但是后面我们也会看到状态之间的其他连接方式。我们把状态记作$S=\\{S_1, S_2, \cdots, S_N\\}$，$t$时刻的状态为$q_t$。

2）M，每个状态的观测数。观测值表示被建模系统的物理输出。在抛硬币的实验中，观测值是正面或者反面；在碗中的球实验中，观测值是球的颜色。我们把观测值记作$V=\\{v_1,v_2, \cdots, v_M\\}$。

3）状态转移概率矩阵$A=\\{a_{ij}\\}$，其中

$$a_{ij}=P[q_{t+1}=S_j | q_t=S_i], \quad 1 \leq i, j\leq N. \tag{7}$$

对于每个状态都可以一步到达其他状态的情况，有$a_{ij}>0$。对于其他类型的HMM，有$a_{ij}=0$的情况。

4）状态$j$下的观测概率分布$B=\\{b_j(k)\\}$，其中

$$b_j(k)=P[v_k \space \text{at} \space t | q_t = S_j], \quad 1\leq j \leq N, 1\leq K \leq M. \tag{8}$$

5）初始状态分布$\pi = \\{\pi_i\\}$，其中

$$\pi_i = P[q_1=S_i], \quad 1\leq i \leq N. \tag{9}$$

给定$N, M, A, B, \pi$，HMM可以作为生成给定观测序列$O=O_1O_2\cdots O_T$的生成器，生成过程如下：

1）根据初始状态分布$\pi$选择一个初始状态$q_1=S_i$。
2）令$t=1$。
3）根据状态$S_i$的观测概率分布$b_i(k)$选择$O_k=v_k$。
4）根据状态$S_i$的状态转移概率分布$a_{ij}$转移到一个新状态$q_{t+1}=S_j$。
5）令$t=t+1$；如果$t<T$返回到第3）步；否则结束。

从上面的讨论中可以看到，完整的HMM描述需要知道两个模型参数$N,M$、观测值、三个概率分布$A,B,\pi$。为了简化，我们用

$$\lambda = (A, B, \pi)\tag{11}$$

表示模型的完整参数设置。