HMM

隐马尔可夫模型

概率图分为静态和动态两种，其中静态概率图可根据是否有向分为无向的贝叶斯网络和有向的马尔可夫随机场，而动态模型即有HMM,Kalman Filter和Particle Filter。

HMM事实上是高斯混合模型的时间序列，各个观测变量$x_i$之间并不是独立同分布的关系。而状态变量$z_i$之间则是一个马尔可夫链。

根据上图，隐马尔可夫模型的观测变量$o$为$o_1,o_2,\dots \dots ,o_t,\dots \dots$，观测空间为 V = { v 1 , v 2 , … … ， v M } V=\{v_1,v_2,……，v_M\} V={v1​,v2​,……，vM​}。状态变量$i$为$i_1,i_2,\dots \dots ,i_t,\dots \dots ,$状态空间为 Q = { q 1 , q 2 , … … , q N } Q=\{q_1,q_2,……,q_N\} Q={q1​,q2​,……,qN​}。

一个模型

隐马尔可夫模型可描述为
$$\lambda =(\pi ,A,B)$$

• 其中$\pi$代表的第一个状态的初始概率密度函数

• 矩阵$A$为状态转移矩阵，即

  $$A=[a_{ij}]，a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$$

• 矩阵$B$为发射矩阵，即

$$B=[b_{ij}]，b_{ij}=P(o_t=v_j|i_t=q_i)$$

两个假设

同时，隐马尔可夫模型具有两个假设，即1、齐次Markov假设。2、观察独立假设

• 齐次Markov假设可以描述为
  $$P(i_{i+1}|i_t,i_{t-1},\dots \dots ,t_1,o_t,o_{t-1},\dots \dots ,o_1)=P(i_{t+1}|i_t)$$
• 观测独立假设可以描述为
  $$P(o_t|i_t,i_{t-1},\dots \dots ，i_1,o_{t-1},\dots \dots ，o_1)=P(o_t|i_t)$$

三个问题

隐马尔可夫模型中有三个问题，1、Evaluation问题。2、Learning问题。3、Decoding问题。

• Evaluation问题
  求解$P(O|\lambda ）$，即在已知模型的基础上，求解某一观测变量序列出现的概率。可以通过前向和后向两种算法进行求解。

• Learning问题
  即通过后验概率求解模型参数$\lambda$，可通过EM算法进行求解。

• Decoding问题
  分为滤波和预测两种，可描述为$\underset{i}{\mathrm{argmax}}P(I|O)。$
  如果是预测问题，则为$P(i_{t+1}|o_1,o_2,\dots \dots ,o_t)$。
  如果是滤波问题，则为$P(i_t|o_1,o_2,\dots \dots ,o_t)。$