python 累积正态分布函数_机器学习系列（二）多元正态分布

一元正态分布回顾

如果随机变量

服从均值为

方差为

的正态分布 (Univariate normal distribution)，

，则其概率密度函数为：

• 整个分布可以仅用均值及方差来刻画
• 如果变量之间不相关，则它们相互独立
• 经典统计检验通常基于正态分布假设
• 正态分布可以模拟大量自然现象

多元正态分布

多元正态分布密度函数

类比于一元情况，若

维随机变量

服从均值向量为

和协方差矩阵为

的多元正态分布 (Multivariate normal distribution)， 记为

，则密度函数为

当

时,

所以随机向量

服从二元正态分布 (Bivariate normal distribution)：

，其密度函数为：

概率密度等高线

由于多元正态分布的密度函数为

其概率密度等高线可表示为：

，

为一常数。

根据矩阵谱分解(Spectral decomposition):

这里的

是协方差矩阵

的(正交)特征值-特征向量对。从而

概率密度等高线：

，可写为：

每条等高线都是以

为中心、以

为轴长的椭球。 这里的

， 是协方差矩阵

的

特征值-特征向量。

二元正态分布概率密度等高线

同理，二元正态分布的概率密度等高线可以简化为 ：

考虑

时的情况：

线性组合

向量

的线性组合的正态性：

• 假设

是一个常数向量，

相反地，如果所有的

的线性组合都服从一元正态分布，则

一定 是多元正态分布。即：

如果对于所有的