通过实例学习理解HMM建模

例子1-什么是马尔科夫过程

Markov process-马尔科夫过程

这个定义来自于【2】的翻译，一个马尔科夫过程被定义为一个随机过程，这个随机过程的当前状态出现的概率，只依赖于前一个状态（State），而与更早的状态无关。上述概念广义上也被称为一阶马尔科夫过程，顾名思义，广义上也有二阶和高阶的。另外从定义来看整个马尔科夫过程研究的核心就是状态（State），即状态的出现概率，和不同状态的转移概率。

Observable-State Markov Process-显式马尔科夫过程

还是来自【2】的例子，利用容器来比喻两个状态

这两个状态抽象的转移概率定义如下：

对上面的转换概率理解如下：假设前一个时刻是$m-1$，当前时刻为$m$，状态$S1$的自旋概率$p(s_{1,m}|s_{1,m-1})=0.8$，状态$S1$切换到状态$S2$的概率$p(s_{2,m}|s_{1,m-1})=0.2$，状态$S1$的转换概率之和是$1$。同理状态$S2$的自旋概率$p(s_{2,m}|s_{2,m-1})=0.6$，状态$S2$切换到状态$S1$的概率$p(s_{1,m}|s_{2,m-1})=0.2$，状态$S2$的转换概率之和是$1$。再回到前图中黑白球出现的顺序（包括即将掉出来的白球）为：$$黑-黑白黑白黑白黑黑白白黑白黑-白$$。第一个‘-’前的黑表示开始状态是从$S1$开始的，那么在一阶马尔科夫的假设前提下，两两转换事件不相关，所以可以认为是独立分布，利用联合概率分布的常识，这串颜色黑白球出现的概率为：$$P=p(s_{1,m}|s_{1,m-1})\ast p(s_{2,m}|s_{1,m-1})\ast ....\ast p(s_{1,m}|s_{2,m-1})\ast p(s_{2,m}|s_{1,m-1})$$

Hidden-State Markov Process-隐式马尔科夫过程

在上图的基础上，如果状态$state$内部也是一个随机过程，无法得到确定的结果，如下图：
相对于显示，隐式随机过程增加了，即所谓的双内嵌式随机过程。同样的这次小球出现的顺序为：$$白-黑白白白黑白黑黑白白黑白白-白$$
但第一个白球是从状态2出来的，还是状态1出来的就不知道了，如果要求解上面黑白球出现的概率，两种情况都得考虑，首先以状态1为起始点并且自旋在状态1的路径下的黑白球出现概率概率可以表示为：$$P=P_{w|state1}\ast p(s_{1,m}|s_{1,m-1})\ast P_{b|state1}\ast .....$$
很显然上述过程穷举的话，是$2^n,2=statesnumber,n=outputnumber$中组合的概率之和。而单条路径下的分布过程也比显式的多了一倍。

小结

通过对比可以看出隐藏状态是不能直接观测的，只能利用一个随机过程来建模。

例子2-Markov Chains 马尔科夫链

马尔科夫链其实就是对马尔科夫过程的一种抽象，具体的说即带有状态转移概率弧线的马尔科夫过程像一个链式手环而已。

ergodic Markov chains-遍历型

遍历型就是两两状态之间都存在转换通道（概率），还是利用来自【2】的图:

随着状态的增多，这种链式结果的转换概率弧线将是多到很难数的过来的地步，那么实际中什么情况下采用呢，假设天气预报，或者语言模型，都是不错的建模过程，如【3】所列举的遍历型链式结构：

left–right Markov chains-左右型（因果型）

铺垫了这么多，其实left–right Markov chains的结构才是语音识别中最常用的形式，如下图【2】：
细节不展开，主要为了直观的感受一下这个模型。左右因果型的马尔科夫链，时间状态转移路线可以用trellis网格表示，对于理解概率的转移路径和前后向算法更加直观：

怎么理解HMM

上面这个trellis图应该是将HMM析构的最好的一张图了，或者更加形象的来说用下图：

没错，就像打地鼠游戏一样，每次从哪个洞口出来，出来的肥鼠还是瘦鼠，都是未知的。看似很迷惘，但仔细的看trellis网格，还是有规律可循的。

HMM的基本元素

下文提到的HMM都是左右型的train。在语音识别中，HMM一般定义为6个模型参数的合集【1】： M = { S , O , A , B , π , F } M= \{S,O,A,B,\pi,F\} M={S,O,A,B,π,F}

S-模型中状态的有限集合

假设有N个状态，可以定义为 S = { S i ∣ i = 1 , 2 , . . , N } S=\{S_i|i=1,2,..,N\} S={Si​∣i=1,2,..,N}，而且在某一个时刻$t$，模型一定处于上述集合中的一个状态，定义为$s_t\in (S_1,...S_N)$。这个模型说明HMM属于一个有限状态机。

O-模型输出的观测值符号信合

或者说$O$是每个状态对应的可能的观察值数目。假设有$M$个观察值为$O_1,...O_M$，定义为$o_t\in (O_1,...O_M)$

A-状态转移概率矩阵

所有概率转移因子$a_{ij}$构成一个集合：
$$A=\left[\begin{array}{ccc}{a}_{11}& \cdots & a_{1N}\\ ⋮& \ddots & ⋮\\ a_{N1}& \cdots & a_{NN}\end{array}\right]$$
对于左右型的HMM，$a_{ij}=0,j>i$，所以上述矩阵就变成上三角矩阵$$A=\left[\begin{array}{cccc}{a}_{11}& \cdots & \cdots & a_{1N}\\ 0& a_{22}& \cdots & a_{2N}\\ ⋮& \cdots & \ddots & ⋮\\ 0& \cdots & 0& a_{NN}\end{array}\right]$$进一步如果是一阶HMM，矩阵中每行只有两个元素为非零值$$A=\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & 0\\ 0& a_{22}& a_{23}& 0\\ ⋮& \cdots & \ddots & ⋮\\ 0& \cdots & 0& a_{NN}\end{array}\right]$$

B-输出观测值概率的集合

$B=b_{ij}(k)$，其中$b_{ij}$是从状态$S_i$到状态$S_j$转移时观测值符号$k$的输出概率，如果是语音建模的话就是，每一个Gaussian的输出概率。而根据B的分布可以将HMM分为离散型和连续型：$$\begin{gathered} 离散型HMM:\sum _k{b}_{ij}(k)=1 \\ 连续型HMM:{\int }_{-\infty }^{\infty }{b}_{ij}(k)dk=1 \end{gathered}$$

$\pi$-系统初始化状态概率的集合

π = { π i } \pi=\{\pi_i\} π={πi​},${\pi }_i$表示初始状态是$s_i$的概率，即$$\begin{gathered} {\pi }_i=P[S_1=s_i],(1\le i\le N) \\ \sum {\pi }_j=1 \end{gathered}$$在语音处理中，初始选取开始于某个状态$S_1=s_i$的概率。

F-系统终了状态的集合

这是专门为语音识别的模型定义的，广义模型里一般不定义终了集合

如何看待这些集合

HMM可以理解为由$\pi ,A$组成的马尔科夫链，负责产生状态序列；而由$B$所描述的观察值序列，T为观察值的时间长度。对于孤立词识别的情况，需要为每个词建立一个HMM模型。首先要训练模型，然后令量化（特征提取）的语音信号$o_1,o_2,...o_T$经过模型生成输出概率，输出概率最大的HMM对应的孤立词就是我们要得到的识别结果。

参考

1.语音信号处理，第三版，赵力 等，机械工业出版社
2.Advanced Digital Signal Processing and Noise Reduction, Fourth Edition by Saeed V. Vaseghi
3.Chapter A Hidden Markov Models from Speech and Language Processing by Jurafsky