1. 概率图模型
![27872a37f47b257f8bac5f3de1d7a2b6.png](https://i-blog.csdnimg.cn/blog_migrate/9a0e6dc3a34b8020f5e7622650d364cb.jpeg)
混淆点:
- 隐马尔可夫模型 vs 马尔科夫随机场
1.1 有向图 vs 无向图
1.1.1 有向图
![4a5e105d77d1b289fc9a546eac215d04.png](https://i-blog.csdnimg.cn/blog_migrate/abedfbd0953b75ebea9f0a9a8489a498.png)
有向图中的边(箭头),表达了节点之间的依赖关系,决定了节点之间的独立性。这种依赖关系决定了有向图的分解方式:
1.1.2 无向图
与有向图使用依赖关系计算联合概率不同,无向图使用最大团的因子分解来计算联合概率。
(至于为什么使用团或者最大团来分解,请看下文马尔科夫随机场部分)
![47352bf638859d91f4e8127752832102.png](https://i-blog.csdnimg.cn/blog_migrate/b3549ad84edcd84d2ccf7a2621a5afcb.png)
其中
- 节点的贡献
- 边的贡献
- 结果转化为概率
1.2 隐马尔科夫模型
1.2.1 HMM的特点
直接看隐HMM的图结构:
![c6fd56dcd128c8375a9e2bec023bcfeb.png](https://i-blog.csdnimg.cn/blog_migrate/88b6dc09c170b7a61059c776ab94f7aa.png)
从图上来看,HMM解决的是时序变化的问题,其特点是:
- 图的初始节点为y1
- 每个状态只由其前一个状态决定:yi 向 yi+1转移
- 每个状态会产生一个观测值:yi 产生 xi
1.2.3 HMM的分解
根据有向图依赖关系的建模规则,可得到HMM的联合概率分布为:
1.2.4 HMM的参数
根据图结构以及分解关系,完整描述一个HMM需要五个参数:
- 隐状态集S, 观测变量集O
- 初始节点y1的概率
- 状态转移矩阵A