概率图模型学习（6）——高斯网络模型1

由于最近用到了多特征高斯分布，所以提前看了这一章。

1.      多元高斯分布

个人总结高斯分布其实就三个元素：期望、方差、概率密度函数。而多元高斯分布和单高斯分布不同点在于期望由一个值变成了期望矩阵，这个矩阵的每一个元素对应于该特征变量的均值；方差变成了协方差矩阵。

其中，协方差矩阵必须是正定矩阵。令为信息矩阵。

经过如下转化：

其中，最后一项是是常数矩阵乘法(1,n)*(n,n)*(n,1)à常数。因此高斯密度可以导出另一种形式：

 

多元高斯分布围绕均值向量形成一些列的椭圆型等高线，这些等高线平行，其形状和“陡峭”程度由协方差矩阵决定。

 

协方差的计算

个人觉得cov[Xi;Xj]其实就是协方差矩阵中的[I,j]元素。

 

2.      高斯分布的运算

分布的运算无非就是边缘概率分布、联合概率分布、条件概率分布。

边缘高斯分布：可以从期望和协方差中读出对应的值，带入单高斯分布即可。其中Cov(Xi;Xi)即是Xi特征的方差，即是协方差矩阵的[i,i]项元素。

联合高斯概率分布：

条件高斯分布：用观测变量的值取代变量即可。

 

3.      独立性

后面还有高斯贝叶斯网和马尔科夫网，由于线性贝叶斯CPD和马尔科尔网还没有看，就留着以后再总结吧。