语音与语言处理笔记——6HMM & maximum entropy

1. markov chains
   也称作可观察马尔可夫模型，和HMM一样，是一种加权有限状态自动机，每个状态所有弧上的概率求和为1。表示一种概率图模型。
   
   可以用初始状态、转移概率、有限状态集得到一个序列。
2. hmm
   有限状态集、转移概率、观察序列、观察概率/发射概率(即观测序列似然度)、初始状态/结束状态、初始状态概率、
   HMM三个基本问题：
   problem1：计算似然度，已知HMM $\lambda =(A,B)$和观测序列O，确定似然度$P(O|\lambda )$
   problem2:解码，已知观察序列O和HMM $\lambda =(A,B)$，确定最优隐含状态序列Q。
   problem3：learning模型训练，已知观察序列O和HMM的有限隐含状态集，学习HMM的参数A和B。
3. computing likelyhood:HMM前向算法
4. decode：veterbi算法
   解码值对某一观察序列找到最优隐含状态序列。
   传统算法：对每个可能的隐含状态序列，用前向算法计算给定隐含状态序列下观测序列的似然度，找出最大似然度对应的隐含状态序列，这种算法的时间复杂度是指数级别的，不可取。
   HMM最常用的解码算法是维特比算法，也是动态规划算法的一种，Viterbi是一种动态规划的变体。
   
   $v_t(j)$表示给定$\lambda$参数HMM下，前t个观察序列为$o_1,o_2...o_t$,其最可能的隐含状态序列为$q_0,q_1,...q_{t-1}$时第t个观察序列对应状态为j的概率。
   $$v_t(j)=\underset{q_0,q_1,...q_{t-1}}{\max }P(q_0,q_1,...q_{t-1},o_1,o_2...o_t,q_t=j|\lambda )$$
   $$v_t(j)=\underset{i=1}{\overset{N}{\max }}{v}_{t-1}(i)a_{ij}{b}_j(o_t)$$
   $v_{t-1}(i)$表示前一时刻的Viterbi路径概率
   $a_{ij}$表示从之前状态i转移到当前状态j的概率
   $b_j(o_t)$表示观察序列为$o_t$时当前状态的概率，即状态观察似然度。
   Viterbi算法与前向算法类似，除了在前向路径概率上取最大值，其中前向算法是获得总和。
   1.初始化
   $v_1(j)=a_{0j}{b}_j(o_1),1\le j\le N$
   $b_{t1}(j)=0$
   2.递归计算（初始状态和结束状态时non-emitting的）
   $$v_t(j)=\underset{i=1}{\overset{N}{\max }}{v}_{t-1}(i)a_{ij}{b}_j(o_t),1\le j\le N,1<t\le T$$
   $$b{t}_t(j)=\underset{i=1}{\overset{N}{\mathrm{argmax}}}{v}_{t-1}(i)a_{ij}{b}_j(o_t),1\le j\le N,1<t\le T$$
   3.终结
   best score:
   $$P\ast =v_T(q_F)=\underset{i=1}{\overset{N}{\max }}{v}_T(i)\ast a_{iF}$$
   回溯路径是：
   $$q_T\ast =b{t}_T(q_F)=\underset{i=1}{\overset{N}{\mathrm{argmax}}}{v}_T(i)\ast a_{iF}$$
   Viterbi算法：
   
5. training HMM：forward-backward算法或Baum-Welch算法，是EM算法的一种。通过这种算法训练转移概率A和观测概率B。
   训练算法的输入是未标记的观察序列O和潜在隐含状态Q的词汇表。
   
   后向算法：
   后向概率$\beta$是观察序列为从t+1到T，t时刻隐含状态为j的概率：
   $${\beta }_t(i)=P(o_{t+1},o_{t+2}...o_T|q_t=i,\lambda )$$
   后向算法的推导类似于前向算法。
   1.初始化：
   $${\beta }_T(i)=a_{i,F},1\le i\le N$$
   2.递归计算：(初始状态和结束状态没有发射概率)
   $${\beta }_t(i)=\sum _{j=1}^N{a}_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j),1\le i\le N,1<t<T$$
   3.求和终止：
   $$P(O|\lambda )={\alpha }_T(q_F)={\beta }_1(0)=\sum _{j=1}^N{a}_{0j}{b}_j(o_1){\beta }_1(j)$$
   反向算法推到步骤：
   
   KaTeX parse error: Expected '}', got 'EOF' at end of input: …rom state i}}}}
   ${\xi }_t(i,j)$定义为时刻t由状态i在t+1转为状态j的概率：
   $${\xi }_t(i,j)=P(q_t=i,q_{t+1}=j|O,\lambda )$$
   $$not-quite-{\xi }_t(i,j)=P(q_t=i,q_{t+1}=j，O|\lambda )$$
   
   $$not-quite-{\xi }_t(i,j)={\alpha }_t(i)a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)$$
   $$P(X|Y,Z)=\frac{P(X,Y|Z)}{P(Y|Z)}$$
   so $${\xi }_t(i,j)=P(q_t=i,q_{t+1}=j|O,\lambda )=\frac{P(q_t=i,q_{t+1}=j，O|\lambda )}{P(O|\lambda )}$$
   $$P(O|\lambda )={\alpha }_T(N)={\beta }_T(1)=\sum _{j=1}^N{\alpha }_t(j){\beta }_t(j)$$
   $${\xi }_t(i,j)=\frac{{\alpha }_t(i)a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)}{{\alpha }_T(N)}$$
   $${\hat{a}}_{ij}=\frac{{\sum }_{t=1}^{T-1}{\xi }_{t}i,j)}{{\sum }_{t=1}^{T-1}{\sum }_{j=1}^N{\xi }_t(i,j)}$$
   观测概率：
   $${\hat{b}}_j(v_k)=\frac{expectednumberoftimesinstatejandobservingsymbol{v}_k}{expectednumberoftimesinstatej}$$
   观察序列O时刻t处于状态j的概率：
   $${\gamma }_t(j)=P(q_t=j|O,\lambda )$$
   $${\gamma }_t(j)=\frac{P(q_t=j,O|\lambda )}{P(O|\lambda )}$$
   
   $${\gamma }_t(j)=\frac{{\alpha }_t(j){\beta }_t(j)}{P(O|\lambda )}$$
   $${\hat{b}}_j(v_k)=\frac{{\sum }_{t=1s.t.O_t=v_k}^T{\gamma }_t(j)}{{\sum }_{t=1}^T{\gamma }_t(j)}$$
   前向后向算法：
   
6. maximum entropy 最大交叉熵训练准则