GMM-HMM学习笔记

        最近几天钻研了语音处理中的GMM-HMM模型，阅读了一些技术博客和学术论文，总算是对这个框架模型和其中的算法摸清了皮毛。在这里梳理一下思路，总结一下这几天学习的成果，也是为以后回顾时提高效率。

        本文主要结合论文和博客资料来介绍我对GMM-HMM的理解，主要分为以下几个部分：第一个部分介绍语音识别总体框架，第二部分介绍典型的HMM结构和识别过程，第三部分介绍HMM的学习算法，最后补充介绍一些其他细枝末节的相关点。

1. 语音识别总体框架

        首先，如下图所示是一个常见的语音识别框架图，语音识别系统的模型通常由声学模型和语言模型两部分组成，分别对应于语音到音节概率的计算和音节到字概率的计算。这里我们要探讨的GMM-HMM模型属于其中的声学模型。 而语言模型是用来计算一个句子出现概率的概率模型。它主要用于决定哪个词序列的可能性更大，或者在出现了几个词的情况下预测下一个即将出现的词语的内容，即用来约束单词搜索。

        接下来，如下所示是一个更具体一些的语音识别框架图。很明显，在这个图中，我们已经将声学模型明确为GMM-HMM模型。从这个图中已经可以看到GMM和HMM的雏形了。

        

        从这两个图中，可以归纳语音识别的主要步骤包括： （1）预处理模块： 对输入的原始语音信号进行处理，滤除掉其中的不重要的信息以及背景噪声，并进行相关变换处理。（2）特征提取：提取出反映语音信号特征的关键特征参数形成特征矢量序列，常用的是由频谱衍生出来的Mel频率倒谱系数（MFCC)。典型地，用长度约为10ms的帧去分割语音波形，然后从每帧中提取出MFCC特征，共39个数字，用特征向量来表示。（3）声学模型训练：根据训练语音库的特征参数训练出声学模型参数，识别时将待识别的语音的特征参数同声学模型进行匹配，得到识别结果。目前的主流语音识别系统多采用隐马尔可夫模型HMM进行声学模型建模，这将在下一节进行介绍。（4）语言模型训练：语言建模能够有效的结合汉语语法和语义的知识，描述词之间的内在关系，从而提高识别率，减少搜索范围。对训练文本数据库进行语法、语义分析，经过基于统计模型训练得到语言模型。（5）语音解码：即指语音技术中的识别过程。针对输入的语音信号，根据己经训练好的HMM声学模型、语言模型及字典建立一个识别网络，根据搜索算法在该网络中寻找最佳的一条路径，这个路径就是能够以最大概率输出该语音信号的词串。

2. GMM-HMM结构和识别过程

        首先，如下图是一个典型的HMM结构图。隐藏节点是我们不能直接观察到的节点，我们只能通过观察节点的状态去 推测隐藏节点的状态。隐藏节点的各个状态之间可以相互转换，每一种状态下又以一定的概率函数生成观察节点的状态。如下所述，一个HMM 由初始概率,状态转移矩阵和混淆矩阵组成。