概率图模型

一.概率图模型

1.概率模型：

一种描述框架，将学习任务归结于计算变量的概率分布；

2.推断inference ：

利用已知变量推测未知变量的分布

所关心的变量集合为Y

可观测的变量集合为O

其他的变量集合为R

（1）"生成式"generative模型：考虑联合分布 P(Y,O,R)

（2）"判断式"descriminative判别模型：考虑条件分布P(Y,R|O)

给定一组观测变量值，推断就是要由P(Y,O,R),或P(Y,R|O)得到条件概率分布P(Y|O)

3.能否直接利用概率求和规则消去变量R？

答：

（1）即使属性是0,1变量，复杂度至少为O(2|Y| + R);

（2）属性变量之间往往存在复杂的联系；

4.概率图模型

        概率图模型就是一种有效的方式去解决概率模型问题，它是一个用图来表达变量相互关系的概率模型。它以图为表示工具，就是说用一个结点来表示一个或一组随机变量。

        结点之间的边就表示变量间的概率的相关关系，这样就变成了变量的关系图。

根据边的性质不同，概率图模型又可以大致分为两类

（1）使用有向无环图，来表示变量间的依赖关系，也称为有向图模型或贝叶斯网。

（2）使用无向图，来表示变量间的相关关系，称为无向图模型或马尔科夫网

参考：

【1】数据结构：图概念与基本图实现 数据结构：图概念与基本图实现 - SegmentFault 思否

【2】因子图 因子图介绍｜YOLO - A Blog You Only Look Once