用简单易懂的例子解释隐马尔可夫模型

用简单易懂的例子解释隐马尔可夫模型

隐含的身体状态 = { 健康 , 发烧 }

可观察的感觉状态 = { 正常 , 冷 , 头晕 }

预判的身体状态初始概率分布 = { 健康：0.6 , 发烧：0.4 }

身体健康状态的转换概率分布 = {
健康->健康：0.7 ,
健康->发烧：0.3 ,
发烧->健康：0.4 ,
发烧->发烧：0.6
}

在相应健康状况条件下，感觉状态的概率分布 = {
健康，正常：0.5 ，冷 ：0.4 ，头晕： 0.1 ；
发烧，正常：0.1 ，冷 ：0.3 ，头晕： 0.6
}
连续三天的身体感觉依次是： 正常、冷、头晕 。

求：这三天的身体健康状态变化的过程是怎么样的？

(1) 初始情况：

P(第一天健康) = 0.6，P(第一天发烧)=0.4。

(2) 求第一天的身体情况：

计算在感觉正常的情况下最可能的身体状态：

P(第一天健康，感觉正常) = P(正常|第一天健康) * P(第一天健康) = 0.5 * 0.6 = 0.3

P(第一天发烧，感觉正常) = P(正常|第一天发烧) * P(第一天发烧) = 0.1 * 0.4 = 0.04

那么就可以认为第一天最可能的身体状态是：健康。

(3) 求第二天的身体状况：

计算在感觉冷的情况下最可能的身体状态。

P(第二天健康，感觉冷) = P(感觉冷|第二天健康) * P(第二天健康|第一天健康) * P(第一天健康) + P(感觉冷|第二天健康) * P(第二天健康|第一天发烧) * P(第一天发烧) = 0.4 * 0.7 * 0.6 + 0.4 * 0.4 * 0.4 = 0.232

P(第二天发烧，感觉冷) = P(感觉冷|第二天发烧) * P(第二天发烧|第一天健康) * P(第一天健康) + P(感觉冷|第二天发烧) * P(第二天发烧|第一天发烧) * P(第一天发烧) = 0.3 * 0.3 * 0.6 + 0.3 * 0.6 * 0.4 = 0.126

那么可以认为，第二天最可能的状态是：健康。

(4) 求第三天的身体状态：

计算在感觉头晕的情况下最可能的身体状态。

P(第三天健康，感觉头晕) = P(感觉头晕|第三天健康) * P(第三天健康|第二天健康) * P(第二天健康|第一天健康) * P(第一天健康) + P(感觉头晕|第三天健康) * P(第三天健康|第二天健康) * P(第二天健康|第一天发烧) * P(第一天发烧) + P(感觉头晕|第三天健康) * P(第三天健康|第二天发烧) * P(第二天发烧|第一天健康) * P(第一天健康) + P(感觉头晕|第三天健康) * P(第三天健康|第二天发烧) * P(第二天发烧|第一天发烧) * P(第一天发烧) = 0.1 * 0.7 * 0.7 * 0.6 + 0.1 * 0.7 * 0.4 * 0.4 + 0.1 * 0.4 * 0.3 * 0.6 + 0.1 * 0.4 * 0.6 * 0.4 = 0.0574

P(第三天发烧，感觉头晕) = P(感觉头晕|第三天发烧) * P(第三天发烧|第二天健康) * P(第二天健康|第一天健康) * P(第一天健康) + P(感觉头晕|第三天发烧) * P(第三天发烧|第二天健康) * P(第二天健康|第一天发烧) * P(第一天发烧) + P(感觉头晕|第三天发烧) * P(第三天发烧|第二天发烧) * P(第二天发烧|第一天健康) * P(第一天健康) + P(感觉头晕|第三天发烧) * P(第三天发烧|第二天发烧) * P(第二天发烧|第一天发烧) * P(第一天发烧) = 0.6 * 0.3 * 0.7 * 0.6 + 0.6 * 0.3 * 0.4 * 0.4 + 0.6 * 0.6 * 0.3 * 0.6 + 0.6 * 0.6 * 0.6 * 0.4 = 0.2556

那么可以认为，第三天最可能的状态是：发烧。

用数学公式表达

初始概率分布：

$$\pi (0)={\left[\begin{array}{cc}0.6& 0.4\end{array}\right]}^T$$

状态转移概率矩阵：

$$A=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]$$

观测概率矩阵：

$$B=\left[\begin{array}{ccc}0.5& 0.4& 0.1\\ 0.1& 0.3& 0.6\end{array}\right]$$

实际运算：

$$\begin{gathered} \pi (i+1)=A\pi (i) \\ B(i+1)=AB(i) \end{gathered}$$

例：

$$\begin{gathered} \pi (1)=A\pi (0)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{c}0.6\\ 0.4\end{array}\right]=\left[\begin{array}{c}0.54\\ 0.48\end{array}\right] \\ \pi (2)=A\pi (1)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{c}0.54\\ 0.48\end{array}\right]=\left[\begin{array}{c}0.522\\ 0.504\end{array}\right] \\ \pi (3)=A\pi (2)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{c}0.522\\ 0.504\end{array}\right]=\left[\begin{array}{c}0.5166\\ 0.5112\end{array}\right] \end{gathered}$$

和
$$\begin{gathered} B(1)=AB(0)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{ccc}0.5& 0.4& 0.1\\ 0.1& 0.3& 0.6\end{array}\right]=\left[\begin{array}{ccc}0.38& 0.37& 0.25\\ 0.26& 0.34& 0.4\end{array}\right] \\ B(2)=AB(1)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{ccc}0.38& 0.37& 0.25\\ 0.26& 0.34& 0.4\end{array}\right]=\left[\begin{array}{ccc}0.344& 0.361& 0.295\\ 0.308& 0.352& 0.34\end{array}\right] \\ B(3)=AB(2)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{ccc}0.344& 0.361& 0.295\\ 0.308& 0.352& 0.34\end{array}\right]=\left[\begin{array}{ccc}0.3332& 0.3583& 0.3085\\ 0.3224& 0.3556& 0.322\end{array}\right] \end{gathered}$$

状态集合 Q = { 1 , 2 , 3 } Q=\{1,2,3\} Q={ 1,2,3}，观测集合 V = { 红 , 白 } V=\{红,白\} V={ 红,白}。

初始概率分布：
$$\pi (0)={\left[\begin{array}{ccc}0.2& 0.4& 0.4\end{array}\right]}^T$$
状态转移概率矩阵：
$$A=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.5& 0.2\\ 0.2& 0.3& 0.5\end{array}\right]$$
观测概率矩阵：
$$B=\left[\begin{array}{cc}0.5& 0.5\\ 0.4& 0.6\\ 0.7& 0.3\end{array}\right]$$
设$T=3$，$O=(红,白,红)$，试用前向算法计算$P(O|\lambda )$。

前向算法计算：

第一个观测值是红，计算在初始概率分布下，三个状态观测到红的概率分别是：
$$\begin{gathered} {\alpha }_1(1)={\pi }_1{b}_1(o_1)=0.2\ast 0.5=0.1 \\ {\alpha }_1(2)={\pi }_2{b}_2(o_1)=0.4\ast 0.4=0.16 \\ {\alpha }_1(3)={\pi }_3{b}_3(o_1)=0.4\ast 0.7=0.28 \end{gathered}$$

$$\begin{gathered} P(第一个观测值是红，初始状态1)=P(第一个观测值是红|初始状态1)P(初始状态1)=P(观测值是红|状态1)P(初始状态1) \\ P(第一个观测值是红，初始状态2)=P(第一个观测值是红|初始状态2)P(初始状态2)=P(观测值是红|状态2)P(初始状态2) \\ P(第一个观测值是红，初始状态3)=P(第一个观测值是红|初始状态3)P(初始状态3)=P(观测值是红|状态3)P(初始状态3) \end{gathered}$$

$$P(第一个观测值是红)=\sum _{i=1}^{3}P(第一个观测值是红，初始状态i)=0.54$$
在第一个观测值为红的前提下，转为状态1的概率：
$${\beta }_1(1)=\sum _{i=1}^3{\alpha }_1(i)a_{i1}=0.1\ast 0.5+0.16\ast 0.3+0.28\ast 0.2=0.154$$

$$\begin{array}{rl}P(第一个观测值是红，第一个状态是1)& =\sum _{i=1}^{3}P(第一个观测值是红|第一个状态是1)P(第一个状态是1|初始状态i)P(初始状态i)\\ & =\sum _{i=1}^{3}P(第一个观测值是红|第一个状态是1)P(初始状态i)P(第一个状态是1|初始状态i)\\ & =\sum _{i=1}^{3}P(观测值是红|状态1)P(初始状态i)P(下一个状态是1|状态i)\\ & =\sum _{i=1}^{3}P(观测值是红,初始状态i)P(下一个状态是1|状态i)\end{array}$$

$$P(第一个观测值是红，初始状态i)P(第一个状态是1|初始状态i)=$$

在第一个观测值为红的前提下，转为状态2的概率：
$${\beta }_1(2)=\sum _{i=1}^3{\alpha }_1(i)a_{i2}=0.1\ast 0.2+0.16\ast 0.5+0.28\ast 0.3=0.184$$
在第一个观测值为红的前提下，转为状态3的概率：
$${\beta }_1(2)=\sum _{i=1}^3{\alpha }_1(i)a_{i2}=0.1\ast 0.3+0.16\ast 0.2+0.28\ast 0.5=0.202$$
所以
$$\pi (1)={\left[\begin{array}{ccc}0.154& 0.184& 0.202\end{array}\right]}^T$$
第二个观测值为白，计算在上述概率分布下，三个状态观测到白的概率分别是：
$$\begin{gathered} {\alpha }_2(1)={\beta }_1(1)b_1(o_2)=0.154\ast 0.5=0.077 \\ {\alpha }_2(2)={\beta }_1(2)b_2(o_2)=0.184\ast 0.6=0.1104 \\ {\alpha }_2(3)={\beta }_1(3)b_3(o_2)=0.202\ast 0.3=0.0606 \end{gathered}$$
在第一、二个观测值为红、白的前提下，转为状态1的概率：
$${\beta }_2(1)=\sum _{i=1}^3{\alpha }_2(i)a_{i1}=0.077\ast 0.5+0.1104\ast 0.3+0.0606\ast 0.2=0.08374$$
在第一、二个观测值为红、白的前提下，转为状态2的概率：
$${\beta }_2(2)=\sum _{i=1}^3{\alpha }_2(i)a_{i2}=0.077\ast 0.2+0.1104\ast 0.5+0.0606\ast 0.3=0.08878$$
在第一、二个观测值为红、白的前提下，转为状态3的概率：
$${\beta }_2(2)=\sum _{i=1}^3{\alpha }_2(i)a_{i2}=0.077\ast 0.3+0.1104\ast 0.2+0.0606\ast 0.5=0.07548$$
所以
$$\pi (2)={\left[\begin{array}{ccc}0.08374& 0.08878& 0.07548\end{array}\right]}^T$$
第三个观测值为红，计算在上述概率分布下，三个状态观测到红的概率分别是：
$${\alpha }_3(1)={\beta }_2$$