元素比对_序列比对(十六)——Baum-Welch算法估算HMM参数

原创：hxj7

本文介绍了如何用Baum-Welch算法来估算HMM模型中的概率参数。

Baum-Welch算法应用于HMM的效果

前文《序列比对(十五)——EM算法以及Baum-Welch算法的推导》介绍了EM算法和Baum-Welch算法的推导过程。Baum-Welch算法是EM算法的一个特例，用来估算HMM模型中的概率参数。其具体步骤如下：

图片引自《生物序列分析》

本文给出了Baum-Welch算法的C代码，还是以投骰子为例，估算出了转移概率以及发射概率。

具体效果如图：

（下面几张图中的 `Real` 表示真实的转移概率以及发射概率，而`Baum-Welch`表示用Baum-Welch算法估算的转移概率以及发射概率。）

首先是当若干条序列总长度为300时：

然后是当若干条序列总长度为30000时：

可以看出总长度为30000时已经很接近真实值了。但是，Baum-Welch算法的结果时一个局部最优值，很依赖初始值的设定。所以，当初始值不同时，也有可能会出现这种结果：

小结一下：

• Baum-Welch算法通过多次迭代来估算HMM模型中的概率参数。
• 本文代码设定了迭代的终止条件：当“归一化后的平均对数似然”的变化小于预先设定的阈值时或者迭代次数超出最大迭代次数时，迭代终止。
• Baum-Welch算法的最终结果非常依赖初始值的设定。本文代码中的初始值是随机值。
• 在计算期望次数时，使用了伪计数。

代码中所用公式及其推导