隐马尔可夫模型：参数估计问题

隐马尔可夫模型：参数估计问题（BaumWelch算法）

HMM的参数估计问题：给定一个观察序列$O=O_1{O}_2\cdots O_T$，计算使$P(O|\mu )$最大时，模型$\mu =(\mathbf{A},\mathbf{B},\pi )$的参数

$$\hat{\mu }=\underset{\mu }{\mathrm{argmax}}P(O_{\text{training}}|\mu )$$

对于完全情况（complete case），产生观察序列$O$的状态序列$Q=q_1{q}_2\cdots q_T$已知（完全数据），可通过最大似然估计HMM参数：

$${\bar{\pi }}_i=\delta (q_1,s_i)$$

$$\begin{array}{rl}{\bar{a}}_{ij}& =\frac{Q\text{中从状态}{s}_i\text{转移到}{s}_j\text{的次数}}{Q\text{中所有从状态}{s}_i\text{转移到另一状态（包括}{s}_j\text{自身）的次数}}\\ & =\frac{{\sum }_{t=1}^{T-1}\delta (q_t,s_i)\delta (q_{t+1},s_j)}{{\sum }_{t=1}^{T-1}\delta (q_t,s_i)}\end{array}$$

b ˉ j ( k ) = Q 中从状态 s j 输出符号 v k 的次数 Q 到达 s j 的次数 = ∑ t = 1 T δ ( q t , s j ) δ ( O t , v k ) ∑ t = 1 T δ ( q t , s