多维高斯分布与协方差矩阵的关系以及高斯椭圆

一维高斯分布概率密度函数

f(x;μ,σ)=1σ2πexp((xμ)22σ2) f ( x ; μ , σ ) = 1 σ 2 π exp ⁡ ( − ( x − μ ) 2 2 σ 2 )

若随机变量 X X 服从这个高斯分布,则可写作XN(μ,σ)。其中 μ μ 为均值, σ σ 为标准差, σ2 σ 2 为方差。

多维高斯分布概率密度函数

如果随机变量 X=(X1,X2,,Xp) X = ( X 1 , X 2 , … , X p ) ′ 的分布密度函数有如下形式

f(x1,x2,,xp)=f(x)=12πp/21|Σ|1/2exp[12(xμ)TΣ1(xμ)] f ( x 1 , x 2 , … , x p ) = f ( x ) = 1 2 π p / 2 1 | Σ | 1 / 2 exp ⁡ [ − 1 2 ( x − μ ) T Σ − 1 ( x − μ ) ]

其中 μ μ 为均值, Σ Σ 为协方差矩阵。关于协方差矩阵的内容可以看 关于协方差矩阵在机器学习中的理解
1. 针对二维高斯分布,若随机变量中的两个维度不相关,协方差矩阵对对角阵,则如下图所示
这里写图片描述
这里写图片描述
构成一个圆形。

2.若两个维度数据相关,协方差矩阵为对称矩阵,则如下图所示
这里写图片描述
这里写图片描述
构成一个椭圆形。

3.针对二维高斯分布,协方差矩阵的对角线元素为 X1 X 1 X2 X 2 轴的方差,反斜对角线上的两个值为协方差,表明 X1 X 1 X2 X 2 的线性相关程度,(正值时: X1 X 1 增大, X2 X 2 也随之增大;负值时: X1 X 1 增大, X2 X 2 随之减小)。
图片来自
这里写图片描述
能够看出,图形的形状跟方向跟协方差矩阵 XXT X X T 相关,所在轴的方差越大则该方向越长,协方差矩阵最大特征值对应的特征向量的方向为椭圆的朝向。

  • 30
    点赞
  • 119
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值