正态分布的一些事儿

本文整理了正态分布的一些常用的性质，以供备忘之用。

目录

概念

概率密度函数

若连续型随机变量$X$的概率密度为

$$f(x)= \frac{1}{\sqrt{2 \pi} \sigma}e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}},-\infty<x<+\infty$$
则称$X$服从参数为$\mu$，$\sigma^{2}$的正态分布，记为$X \sim \mathcal{N}(\mu, \sigma^{2})$

其密度函数的图形为：

其特征主要有：
1. 关于直线$x=\mu$ 对称；
2. 在$x=\mu$ 处达到最大值；
3. 在$x=\mu \pm \sigma$ 处有拐点；
4. $x \to \infty$ 时曲线以$x$轴为渐近线；
5. 固定$\sigma$，改变$\mu$，则图形沿$x$轴平移而不改变其形状；固定$\mu$，改变$\sigma$，则当$\sigma$越小，曲线越陡峭，当$\sigma$越大时，曲线越平坦。

分布函数

$$F(x)=\int_{-\infty}^{x}\frac{1}{\sqrt{2 \pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}dx，-\infty<x<+\infty$$

特殊情况：标准正态分布

$$X \sim \mathcal{N}(0,1)$$
- 密度函数：
$$\varphi(x)=\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}}$$
- 分布函数：
$$\Phi(x)=\int_{-\infty}^{x}\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}}dx$$
- 性质
1. $\Phi(-x)=1-\Phi(x)$
2. $\Phi(0)=0.5$

性质

1. 两个服从正态分布的随机变量加减之后仍然是正态分布。
   例如，$A \sim \mathcal{N}(\mu_1, \sigma_1)$，$B \sim \mathcal{N}(\mu_2,\sigma_2)$，$A+B \sim \mathcal{N}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2+cov(A,B))$
2. 两个正态分布密度的乘积还是正态分布。
3. 两个正态分布密度的卷积还是正态分布，也就是两个正态分布的和还是正态分布。
4. 正态分布$N(0,\sigma^2)$的傅立叶变换还是正态分布。
5. 中心极限定理保证了多个随机变量的求和效应将导致正态分布。
6. 正态分布和其它具有相同方差的概率分布相比，具有最大熵。
7. 二项分布$B(n,p)$在$n$很大逼近正态分布$N(np,np(1−p))$。
8. 泊松分布$Poisson(λ)$在$\lambda$较大时逼近正态分布$N(λ,λ)$。
9. $\chi_{(n)}^2$在$n$很大的时候接近正态分布$N(n,2n)$。
10. $t$分布在$n$很大时接近标准正态分布$N(0,1)$。
11. 正态分布的共轭分布还是正态分布。
12. 几乎所有的极大似然估计在样本量$n$增大的时候都趋近于正态分布。
13. Cramer分解定理：如果$X$，$Y$是独立的随机变量，且$S=X+Y$是正态分布，那么$X$，$Y$也是正态分布。
14. 如果$X$，$Y$独立且满足正态分布$N(μ,σ2)$，那么$X+Y$，$X−Y$独立且同分布，而正态分布是唯一满足这一性质的概率分布。
15. 对于两个正态分布$X$，$Y$，如果$X$，$Y$不相关则意味着$X$，$Y$独立，而正态分布是唯一满足这一性质的概率分布。

相关matlab函数

1. 分布函数：normcdf(x,sigma,mu)，其中$\mu$是随机变量的值，返回的是参数为μ和$\sigma$的正态分布函数在$x$处的值；
2. 密度函数：normpdf(x,sigma,mu)，其中$x$是随机变量的值，返回的是参数为μ和$\sigma$的正态分布密度函数在$x$处的值；
3. 生成正态分布随机数：normrnd(0,.1,m,n)，其中$m$和$n$是生成$m$行$n$列的随机数；
4. 生成正态分布曲线： y = gaussmf(x,[sigma mu]) ，其中$x$是变量，sigma就是正态分布的方差$\sigma$，而c就是正态分布的均值$\mu$。

参考资料：
【1】正态分布的前世今生：http://songshuhui.net/archives/77386