前期知识:
无向模型(概率图模型) | 1.有向图/无向图G 有无明确的方向关系,作用力是否双向 2.无向模型 随机变量是结点,同一条边的两个结点相互作用。但边是无方向的,所以不与一个条件分布相关联。 团(Clique,C),无向图G中任何两个结点均有边连接的节点子集,最大团是指不能加入G中其他节点形成更大的团。 势函数(potential function),势函数可以为关于参数的任意非负函数。 𝜙(𝑐) 联合概率分布,正比所以团上势函数的乘积。 非归一化概率函数:团势能累乘 | |
配分函数 | 1.配分函数Z 作用:使得上述非归一化概率函数之和/积分为1,得到一个有效的概率分布。为此需要以下分布。 吉布斯分布: 其中,Z满足 当p固定,Z为常数;当p(x),则Z(x)即配分函数。 2.模型设计 模型的结构和势函数定义需要有助于计算Z。 | |
总结/补充知识 | 概率分布=数据+分布,其中数据分为连续/离散,离散概率分布有一个数值的概率,连续则无。 有效的概率分布,指概率分布值大于0小于1,其和为1. 连续概率分布:正态分布; 离散概率分布分为,二项分布(两种条件)、泊松分布(在某个条件下发生事件的概率)、几何分布(跟二项分布差不多); 总结:无向模型通过非归一化概率函数表示随机变量的密切关系,为了使其归一化,引入了配分函数。 |