从语音识别的HMM模型的解码 到Viterbi算法的Token Passing实现

1 从语音识别说起

语音识别是什么，通俗来说，就是输入音频，输出识别文字结果。基本方程如下

： 识别结果
W：任一单词（以孤立词举例说明）
O：输入的语音序列（Observation Sequence）

上述方程的变换应用了Bayes Rule.

等式右边是两项乘积，P(W)来自语言模型（Language Model， LM）， 常用的模型有 N-gram。 P(O | W)来自于声学模型（Acoustic Model， AM），传统的语音识别系统普遍采用的是基于GMM-HMM的声学模型，其中GMM用于对语音声学特征的分布进行建模，HMM则用于对语音信号的时序性进行建模。具体介绍网上有很多通俗易懂的文章，这里暂不赘述。本文重点讲解声学模型中的解码问题，暂不涉及语言模型。

2 计算P(O | W) —— 解码

P(O | W)可以继续分解如下
P(O | W) = P(A, O | W)
其中A表示状态序列，O表示观测序列，a表示转移概率，b表示观测概率

如图，上方是状态序列（state sequence）（HMM），下方是观测序列（observation sequence）。我们看到，states之间存在不同的转移方式，每个state针对observation也有不同generate方式。可以想象，通过组合，我们可以得到一个巨大的状态网络。而我们语音识别的任务，通俗来说就是从这个巨大的状态网络中搜索到最佳路径（partial path），也就是最大概率的路径，对应上面公式的argmax。这个搜索匹配的过程在语音识别中叫做解码（decode）