Baum-Welch 算法

Baum-Welch 算法

假设给定训练数据只包含 $S$ 个长度为 $T$ 的观测序列 { O 1 , O 2 , ⋯   , O S } \{O_1, O_2, \cdots, O_S\} {O1​,O2​,⋯,OS​} 而没有对应的状态序列，目标是学习隐马尔可夫模型 $\lambda =(A,B,\pi )$ 的参数。我们将观测序列看作在观测数据 $O$ ，状态序列数据看作不可观测的隐数据 $I$，那么隐马尔可夫模型事实上是一个含有隐变量的概率模型：

$$P(O|\lambda )=\sum _{I}P(O,I|\lambda )\text{\hspace{1em}(10.32)}$$

它的参数学习可以由 EM 算法实现。

1. 确定完全数据的对数似然函数

   所有观测数据写成 $O=(o_1,o_2,\cdots ,o_T)$，所有隐数据写成 $I=(i_1,i_2,\cdots ,i_T)$，完全数据是 $(O,I)=(o_1,o_2,\cdots ,o_T,i_1,i_2,\cdots ,i_T)$。完全数据的对数似然函数是 $\log P(O,I|\lambda )$

2. EM 算法的 E 步：求 $Q$ 函数 $Q(\lambda ,\hat{\lambda })$

   $$Q(\lambda ,\hat{\lambda })=\sum _I\log P(O,I|\lambda )P(I|\hat{\lambda })\text{\hspace{1em}(10.33)}$$

   其中，$\hat{\lambda }$ 是隐马尔可夫模型参数的当前估计值，$\lambda$ 是要极大化的隐马尔可夫模型参数。

   $$P(O,I|\lambda )={\pi }_{i_1}{b}_{i_1}(o_1)a_{i_1{i}_2}{b}_{i_2}(o_2)\cdots a_{i_{T-1}{i}_T}{b}_{i_T}(o_T)$$

   于是函数 $Q(\lambda ,\hat{\lambda })$ 可以写成
   $$Q(\lambda ,\hat{\lambda })=\sum _I\log {\pi }_{i_1}P(O,I|\hat{\lambda })+\sum _I\left(\sum _{t=1}^{T-1}\log a_{i_t{i}_{t+1}}\right)P(O,I|\hat{\lambda })+\sum _I\left(\sum _{t=1}^T\log b_{i_t}(o_t)\right)P(O,I|\hat{\lambda })\text{\hspace{1em}(10.34)}$$

   式中求和都是对所有数据的序列总长度 $T$ 进行的。

3. EM 算法的 M 步：极大化 $Q$ 函数 $Q(\lambda ,\hat{\lambda })$ 求模型参数 $A,B,\pi$

   由于要极大化的参数在式 (10.34) 中单独地出现在 3 个项中，所以只需将各项分别极大化。

   (1) 式 (10.34) 的第 1 项可以写成

   $$\sum _I\log {\pi }_{i_1}P(O,I|\hat{\lambda })=\sum _{i=1}^N\log {\pi }_{i}P(O,i_1=i|\hat{\lambda })$$

   注意 ${\pi }_i$ 满足约束条件 ${\sum }_{i=1}^N{\pi }_i=1$，利用拉格朗日乘子法，写出拉格朗日函数：
   $$\sum _{i=1}^N\log {\pi }_{i}P(O,i_1=i|\hat{\lambda })+\gamma \left(\sum _{i=1}^N{\pi }_i-1\right)$$

   对其求偏导数并令结果等于0：
   $$\frac{\partial }{\partial {\pi }_i}\left[\sum _{i=1}^N\log {\pi }_{i}P(O,i_1=i|\hat{\lambda })+\gamma \left(\sum _{i=1}^N{\pi }_i-1\right)\right]=0\text{\hspace{1em}(10.35)}$$

   得：

   $$P(O,i_1=i|\hat{\lambda })+\gamma {\pi }_i=0$$

   对 $i$ 求和得到 $\gamma$：

   $$\gamma =-P(O|\hat{\lambda })$$

   代入式 (10.35) 即得：

   $${\pi }_i=\frac{P(O,i_1=i|\hat{\lambda })}{P(O|\hat{\lambda })}\text{\hspace{1em}(10.36)}$$

   (2) 式 (10.34) 的第 2 项可以写成

   $$\sum _I\left(\sum _{t=1}^{T-1}\log a_{i_t{i}_{t+1}}\right)P(O,I|\hat{\lambda })=\sum _{i=1}^N\sum _{j=1}^N\sum _{t=1}^{T-1}\log a_{ij}P(O,i_t=i,i_{t+1}=j|\hat{\lambda })$$

   类似第 1 项，应用具有约束条件${\sum }_{j=1}^N{a}_{ij}=1$ 的拉格朗日乘子法可以求出：

   $$a_{ij}=\frac{{\sum }_{t=1}^{T-1}P(O,i_t=i,i_{t+1}=j|\hat{\lambda })}{{\sum }_{t=1}^{T-1}P(O,i_t=i|\hat{\lambda })}\text{\hspace{1em}(10.37)}$$

   (3) 式 (10.34) 的第 3 项为

   $$\sum _I\left(\sum _{t=1}^T\log b_{i_t}(o_t)\right)P(O,I|\hat{\lambda })=\sum _{j=1}^N\sum _{t=1}^T\log b_j(o_t)P(O,i_t=j|\hat{\lambda })$$

   同样用拉格朗日乘子法，约束条件是 ${\sum }_{k=1}^M{b}_j(k)=1$。注意，只有在 $o_t=v_k$ 时 $b_j(o_t)$ 对 $b_j(k)$ 的偏导数才不为 0，以 $I(o_t=v_k)$ 表示。求得：

   $$b_j(k)=\frac{{\sum }_{t=1}^{T}P(O,i_t=j|\hat{\lambda })I(o_t=v_k)}{{\sum }_{t=1}^{T}P(O,i_t=j|\hat{\lambda })}\text{\hspace{1em}(10.38)}$$

---

以上部分公式详解的博文：
10.33 Q函数-新参数λ在旧参数λ^下的期望对数似然函数 解析
10.34 Q函数拆分的过程
Q(λ,λ^)的第一项（与初始状态分布π相关的部分）从隐状态序列 I 的总和形式转换为更具体的形式 公式解析
10.35初始状态分布π的拉格朗日函数对其求偏导数并令结果为0
参数优化中与状态转移概率aij相关公式解析
10.37状态转移概率aij的更新公式 推导过程
参数优化中与观测概率矩阵B相关公式解析
10.38观测概率矩阵B中的元素bj(k)更新公式 推导过程