matlab中服从高斯分布的矩阵_机器学习系列（三）—— 多元高斯分布

1. 多元高斯分布

设

维随机向量

服从多元高斯分布，

为随机变量

的一阶矩，且

维向量

，

为随机变量

和

的二阶矩（

时为方差，

时为协方差），且

维半正定矩阵

为

。

那么，如果随机向量

满足多元高斯分布，其联合概率密度函数为

。

2. 多元高斯分布的性质

如果上述

维随机向量

服从多元高斯分布，

：

性质 1：存在

维的向量

和

维矩阵

，使得

非奇异，那么

也服从多元高斯分布，即

的一阶矩为

维的

，二阶矩为

维的

，

。

性质2：设

，其中

为前

维，

为后

维，则

的一阶矩和二阶矩分别为

和

。那么，

与

是统计独立的，且

，

。其中

，

。

性质3：设存在矩阵

和矩阵

，使得矩阵

与

非奇异，则当且仅当

时，

与

是相互独立的。

3. 舒尔补(schur complement)

设

，则

，根据

性质1，可以得到

，即

。

对于

，设

，则

，根据性质1可得到

的一阶矩为

，二阶矩为

，即

。

此时

，根据

性质3， 得

与

是统计独立的，即

性质2。

舒尔补：

就称为

的舒尔补。

设

为随机向量

和随机向量

的联合概率分布，利用schur补，可得

。

舒尔补的物理意义见图1。

图1 舒尔补

那么，根据统计独立的性质，其联合概率密度函数可以写为

，

从这个公式，我们可以看到

(行列式值)，即

可被对角化，表示为

。

这个可逆矩阵

与上述

有关，且

。（可自行验证）