HMM(参数训练无监督方法EM)

隐马尔可夫事实上是一个含有隐变量的概率模型
$P(O|\lambda) = \sum_{I}P(O,I|\lambda)P(I|\lambda)$
它的训练可以用EM算法（上文已讲）
1、首先确定完全数据的对数似然函数，即$p(O,I|\lambda)$
2、E-step：完全数据的期望，即Q函数$Q(\lambda,\overline{\lambda})$

• $Q(\lambda,\overline{\lambda}) = \sum_{I}logP(O,I|\lambda)p(O,I|\overline{\lambda})$
• 其中$logP(O,I|\lambda)=\pi_{i_1}b_{i_1}(o_1)a_{i_1i_2}....a_{i_{T-1}i_T}b_{i_T}(o_T)$
• 则Q函数可以写成
  
  • $Q(\lambda,\overline{\lambda}) = \sum_{I}logP(O,I|\lambda)p(O,I|\overline{\lambda})$
  • =$\sum_{I}log\pi_{i_1}p(O,I|\overline{\lambda})$
  • +$\sum_{I}\lgroup\sum_{t=1}^{T-1}loga_{i_ti_{t+1}}p(O,I|\overline{\lambda})\rgroup$
  • +$\sum_{I}\lgroup\sum_{t=1}^{T}logb_{i_t}(o_t)p(O,I|\overline{\lambda})\rgroup$

3、M-step:极大化Q函数

• 我们首先对上式等号右边第一项处理：
  
  • $\sum_{I}log\pi_{i_1}p(O,I|\overline{\lambda}) = \sum_{i=1}^{N}log\pi_{i}p(O,i_1= |\overline{\lambda})$
    
    • 其中$\pi_i$满足$\sum_{i=1}^{N}\pi_{i}=1$，利用拉格朗日乘子法，写出拉格朗日函数：
    • $F(\pi,\lambda) = \sum_{i=1}^{N}log\pi_{i}p(O,i_1= |\overline{\lambda}) + \lambda\lgroup\sum_{i=1}^{N}\pi_{i}-1\rgroup$
    • 对$\pi_i$求偏导数，且令它为0，得到$P(O,i_i=i|\overline\lambda)+\gamma\pi_i=0$
    • 对$\pi_i$求和，得到$\gamma = -{P(O|\overline\lambda)}$得到$\pi_i=\frac{P(O,i_i=i|\lambda)}{P(O|\overline\lambda)}$
• 我们队第二项处理
  
  • 同上，最终得到$\alpha_{ij}=\frac{\sum_{t=1}^{T-1}P(O,i_t=i,i_{t+1}=j|\overline\lambda)}{\sum_{t=1}^{T-1}P(O,i_t=i|\overline\lambda}$
  • 根据上节讲述的前向后向求概率。$\alpha_{ij}=\frac{\sum_{t=1}^{T-1}\zeta_t(i,j)}{\sum_{t=1}^{T-1}\gamma_t(i)}$
• 我们对第三项处理
  
  • $b_j(k)=\frac{\sum_{t-1}^{T}P(O,i_t=j|\overline\lambda)I(o_t=v_k)}{\sum_{t-1}^{T}P(O,i_t=j|\overline\lambda)}=\frac{\sum_{t=1}^{T}\gamma_t(i)*I(o_t=v_k)}{\sum_{t=1}^{T}\gamma_t(i)}$

4、算法，即初始化参数，ME求参数，迭代直至次数或收敛（EM是可收敛的）

 - 
 - 

• -