【概率论与数理统计02】那些年，正态分布、指数分布、伽马分布、卡方分布之间的发生的那些事儿（下）

前记：书接上回，先来回顾一下四个分布之间的关系图。

• 
  图1 四个分布关系简图

• 3. 简洁的三哥——指数分布

  指数分布及特性

     形如其名，指数分布的概率密度函数应该是最简单的了，就是单纯的指数函数的形式
  $$f(x)=\{\begin{array}{rl}\lambda e^{-\lambda x},& x>0\\ 0,& x\le 0.\end{array}$$

  指数分布只有一个参数 $\lambda$，称为率参数。指数分布的期望和方差分别为 $1/\lambda$ 和 $1/{\lambda }^2$。

• 
  图2 指数分布概率密度曲线

•    指数分布的物理意义是“要等到一个随机事件发生，需要经历多久时间”。举一个例子，例如 $X\sim \mathrm{E}\mathrm{x}\mathrm{p}(0.25)$ 表示在单位时间内（一分钟，一小时或一年），该事件平均发生 0.25 次。那么直到事件发生需要 4 个小时，0.25 的倒数。与指数分布类似，伽马分布的物理意义是“要等到 $\alpha$ 个随机事件都发生，需要经历多久时间”。因此 $\alpha$ 个指数分布的和就是形状参数为 $\alpha$，尺度参数为 $\lambda$ 的伽马分布；反之，若伽马分布中 $\alpha =1$，说明只有一个指数分布参与求和，因此也就退化为指数分布。

  正态分布与指数分布的关系

     设随机变量 $X$ 和 $Y$ 相互独立，都服从正态分布 $N(0,{\sigma }^2)$，那么 $Z=X^2+Y^2$ 服从指数分布。证明如下：
  由于随机变量 $X$ 和 $Y$ 相互独立，则 $(X,Y)$ 的联合分布密度函数为
  $$f(x,y)=f_X(x)f_Y(y)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{x^2}{2{\sigma }^2}}\times \frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{y^2}{2{\sigma }^2}}=\frac{1}{2\pi {\sigma }^2}{e}^{-\frac{x^2+y^2}{2{\sigma }^2}}$$

  随机变量 $Z$ 的分布函数
  $$\begin{array}{rl}{F}_Z(z)& =P(Z\le z)=P(X^2+Y^2\le z)\\ & =\underset{x^2+y^2\le z}{\iint }\frac{1}{2\pi {\sigma }^2}{e}^{-\frac{x^2+y^2}{2{\sigma }^2}}dxdy\\ & =\frac{1}{2\pi {\sigma }^2}{\int }_0^{2\pi }d\theta {\int }_0^{\sqrt{z}}{e}^{-\frac{r^2}{2{\sigma }^2}}rdr\\ & =1-e^{-\frac{z}{2{\sigma }^2}}\end{array}$$

  故 $Z$ 的概率密度函数为
  $$f_Z(z)=F_Z^{\prime }(z)=\frac{1}{2{\sigma }^2}{e}^{-\frac{z}{2{\sigma }^2}}$$

  很明显这是服从率参数为 $1/2{\sigma }^2$ 的指数分布。

  \newline
  \newline

  4. 神奇的四哥——卡方分布

  卡方分布及特性

     自由度为 $n$ 的卡方分布的定义是 $n$ 个标准正态分布的平方和，记为 ${\chi }^2(n)$ 同时卡方分布也是伽马分布当 $\alpha =n/2$，$\lambda =1/2$ 时的特殊情况，其概率密度函数为
  $$f(x)=\frac{1}{2^{n/2}\Gamma (n/2)}{x}^{n/2-1}{e}^{-x/2}$$

• 
  图3 卡方分布概率密度曲线

• 期望与方差分别为 $n$ 和 $2n$，且满足独立可加性。

  卡方分布与指数分布的关系

  指数分布通过伽马分布构造卡方分布。
  设 $X_1,X_2,..,X_n$ 是服从指数分布 $\mathrm{E}\mathrm{x}\mathrm{p}(\lambda )$ 的独立随机变量，则根据指数分布与伽马分布的关系有，$X_i\sim \mathrm{G}\mathrm{a}(1,\lambda )$。因为伽马分布具有可加性，则
  $$X_1+X_2+\cdots +X_n=\sum _{i=1}^n{X}_i\sim \mathrm{G}\mathrm{a}(n,\lambda )$$

  由伽马分布的线性性质有
  $$2\lambda \sum _{i=1}^n{X}_i\sim \mathrm{G}\mathrm{a}(n,\frac{1}{2})$$

  因此有 $2\lambda {\sum }_{i=1}^n{X}_i\sim {\chi }^2(2n)$，即完成指数分布通过伽马分布构造卡方分布。

  \newline
  \newline

  5. 小结

     概率论的世界广阔而神秘，而统计分布只是其冰山一角，本文所记录的更是表面的浮冰，如有错误，恳请各位老师批评指正。愿我们大家共同进步！