机器学习知识点(二十二)高斯分布(正态分布)基础知识

1、概念

正态分布Normal distribution)又名高斯分布(Gaussian distribution),是一个在数学物理工程领域都非常重要的概率分布,在统计学的许多方面有着重大的影响力。

随机变量X服从一个位置参数为\mu、尺度参数为\sigma的概率分布,记为:

X \sim N(\mu,\sigma^2),

则其概率密度函数

f(x) = {1 \over \sigma\sqrt{2\pi} }\,e^{- {​{(x-\mu )^2 \over 2\sigma^2}}}

正态分布的数学期望值或期望值\mu等于位置参数,决定了分布的位置;其方差\sigma^2的开平方或标准差\sigma等于尺度参数,决定了分布的幅度。

正态分布的概率密度函数曲线呈钟形,因此人们又经常称之为钟形曲线。我们通常所说的标准正态分布是位置参数\mu = 0, 尺度参数\sigma = 1的正态分布(见右图中绿色曲线)。

File:Normal distribution pdf.png


2、性质
1) 如果 X \sim N(\mu, \sigma^2) \, a b 实数 ,那么 a X + b \sim N(a \mu + b, (a \sigma)^2)  ;
2)如果 X \sim N(\mu_X, \sigma^2_X) Y \sim N(\mu_Y, \sigma^2_Y) 统计独立 的常态 随机变量 ,那么:
         它们的和也满足正态分布 U = X + Y \sim N(\mu_X + \mu_Y, \sigma^2_X + \sigma^2_Y)   .
         它们的差也满足正态分布 V = X - Y \sim N(\mu_X - \mu_Y, \sigma^2_X + \sigma^2_Y) .
              U V 两者是相互独立的。
3) X \sim N(0, \sigma^2_X) Y \sim N(0, \sigma^2_Y) 是独立常态随机变量,那么:
     它们的积 X Y 服从概率密度函数为 p 的分布
        p(z) = \frac{1}{\pi\,\sigma_X\,\sigma_Y} \; K_0\left(\frac{|z|}{\sigma_X\,\sigma_Y}\right), 其中 K_0 是修正贝塞尔函数(modified Bessel function)
      它们的比符合 柯西分布 ,满足 X/Y \sim \mathrm{Cauchy}(0, \sigma_X/\sigma_Y) .
4)如果 X_1, \cdots, X_n 为独立标准常态随机变量,那么 X_1^2 + \cdots + X_n^2 服从自由度为 n 卡方分布

3、更多可以阅读:http://songshuhui.net/archives/76501
    讲述正态分布的前世今生。

4、在知乎上看到一张关于各种统计分布的关系的神图:

论文地址:http://www.math.wm.edu/~leemis/2008amstat.pdf

  • 1
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值