【概率与统计】聊聊一些常见的概率分布

笔者：YY同学Serendipity

生命不息，代码不止。好玩的项目尽在GitHub

---

---

离散概率分布

离散均匀分布（Discrete Uniform Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=\{\begin{array}{rlr}\frac{1}{b-a}& & a\le X\le b\\ 0& & otherwise\end{array}$$
• 期望（Expectation）：
  $$E(X)=\frac{a+b}{2}$$
• 方差（Variance）：
  $$Var(X)=\frac{(b-a+1{)}^2-1}{12}$$
• 栗子：随机抽签 $N$ 次后中奖（$X$）的概率。

伯努利分布（Bernoulli Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=p^x(1-p{)}^{1-x}\{\begin{array}{rlr}p& & X=1\\ 1-p& & X=0\end{array}$$
• 期望（Expectation）：
  $$E(X)=\sum _{i=0}^1{X}_{i}P(X)=p$$
• 方差（Variance）：
  $$Var(X)=\sum _{i=0}^1(X_i-E(X){)}^{2}P(X)=p(1-p)$$
• 栗子：发射一枚导弹是否击落敌机（$X$）的概率。伯努利分布又名 01 分布 / 两点分布，是二项式分布的 $n=1$ 的特殊情况。

二项式分布（Binomial Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x,n,p)=C_n^x{p}^x(1-p{)}^{n-x}$$
• 期望（Expectation）：
  $$E(X)=\sum _{i=1}^n{X}_{i}P(X)=np$$
• 方差（Variance）：
  $$Var(X)=\sum _{i=1}^n(X_i-E(X){)}^{2}P(X)=np(1-p)$$
• 栗子：一批产品进行 $n$ 次检验后合格的数量（$X$）的概率。

超几何分布（Hypergeometric Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=\frac{C_D^x{C}_{N-D}^{n-x}}{C_N^n}$$
• 期望（Expectation）：
  $$E(X)=np$$
• 方差（Variance）：
  $$Var(X)=np(1-p)\frac{N-n}{N-1}$$
• 栗子：一批产品有 $N$ 个，其中 $D$ 个不合格，从 $N$ 个中任取 $n$ 个，不合格产品数量（$X$）的概率。

几何分布（Geometric Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=(1-p{)}^{x}p$$
• 期望（Expectation）：
  $$E(X)=\frac{1}{p}$$
• 方差（Variance）：
  $$Var(X)=\frac{1-p}{p^2}$$
• 栗子：已知射击比赛选手单次射中目标的概率，求他首次射中目标所需的射击次数（$X$）的概率。

负二项分布（Negative Binomial Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x,r)=C_{x-1}^{r-1}{p}^{r-1}(1-p{)}^{x-r}p=C_{x-1}^{r-1}{p}^r(1-p{)}^{x-r},x\ge r$$
• 期望（Expectation）：
  $$E(X)=\frac{r}{p}$$
• 方差（Variance）：
  $$Var(X)=r\frac{1-p}{p^2}$$
• 栗子：某射手连续射击一个目标，射中 $r$ 次后停止，若已知单次射中的概率，求射击次数（$X$）的概率。当 $r=1$ 时，即为几何分布。

泊松分布（Poisson Distribution）

• 概率质量函数（PMF）：
  $$P(X=x)=f(x)=\frac{1}{x!}{\lambda }^x{e}^{-\lambda },x\in N^{\ast }$$
• 期望（Expectation）：
  $$E(X)=\lambda$$
• 方差（Variance）：
  $$Var(X)=\lambda$$
• 栗子：在一条马路上，已知 30 分钟内看见汽车驶过的概率，求 10 分钟内看见汽车驶过（$X$）的概率。

---

连续概率分布

均匀分布（Uniform Distribution）

• 概率密度函数（PDF）：
  $$p(x)=\{\begin{array}{rlr}\frac{1}{b-a}& & a\le x\le b\\ 0& & otherwise\end{array}$$
• 期望（Expectation）：
  $$E(X)=\frac{a+b}{2}$$
• 方差（Variance）：
  $$Var(X)=\frac{(b-a{)}^2}{12}$$
• 栗子：

指数分布（Exponential Distribution）

• 概率密度函数（PDF）：
  $$p(x)=\{\begin{array}{rlr}\lambda e^{-\lambda x}& & x>0\\ 0& & x\le 0\end{array}$$
• 期望（Expectation）：
  $$E(X)=\frac{1}{\lambda }$$
• 方差（Variance）：
  $$Var(X)=\frac{1}{{\lambda }^2}$$
• 栗子：若电子产品的使用寿命服从指数分布，求该产品在第 $X$ 年报废的概率。

威布尔分布（Weibull Distribution）

• 概率密度函数（PDF）：
  $$p(x,\lambda ,k)=\{\begin{array}{rlr}{\lambda }^k{x}^{k-1}{e}^{-{\lambda }^{k}x}& & x>0\\ 0& & x\le 0\end{array}$$
• 期望（Expectation）：
  $$E(X)=\frac{1}{\lambda }\Gamma (1+\frac{1}{k})$$
• 方差（Variance）：
  $$Var(X)=\frac{1}{{\lambda }^2}\Gamma (1+\frac{2}{k})-(E(X){)}^2$$
• 栗子：轴承的使用寿命服从威布尔分布，指数分布为威布尔分布 $k=1$ 时的特殊情况。

高斯分布（Gaussian Distribution）

• 概率密度函数（PDF）：
  $$p(x)=\frac{1}{\sqrt{2\pi \sigma }}{e}^{-\frac{1}{2{\sigma }^2}(x-\mu {)}^2}$$
• 期望（Expectation）：
  $$E(X)=\mu$$
• 方差（Variance）：
  $$Var(X)={\sigma }^2$$
• 栗子：高斯分布又称正态分布，世界上很大一部分事件的概率都服从高斯分布，其中 $\mu =0$，${\sigma }^2=1$ 的分布又称标准正态分布。

柏拉图分布（Pareto Distribution）

• 概率密度函数（PDF）：
  $$p(x)=\{\begin{array}{rlr}(a-1)x_0^{a-1}{x}^{-a}& & x\ge x_0\\ 0& & x<x_0\end{array}$$
• 期望（Expectation）：
  $$E(X)=\frac{(a-1)x_0}{a-2},a>2$$
• 方差（Variance）：
  $$Var(X)=\frac{(a-1)x_0^2}{(a-2{)}^2(a-3)},a>3$$
• 栗子：家庭年收入服从柏拉图分布，其中 $x_0>0$，$a>1$ 的分布又称标准正态分布。

Beta 分布（Beta Distribution）

• 概率密度函数（PDF）：
  $$p(x)=\{\begin{array}{rlr}\frac{1}{B(\alpha ,\beta )}{x}^{\alpha -1}(1-x{)}^{\beta -1}& & 0\le x\le 1\\ 0& & otherwise\end{array}$$
  $$B(\alpha ,\beta )={\int }_0^1{x}^{\alpha -1}(1-x{)}^{\beta -1}dx$$
• 期望（Expectation）：
  $$E(X)=\frac{\alpha }{\alpha +\beta }$$
• 方差（Variance）：
  $$Var(X)=\frac{\alpha \beta }{(\alpha +\beta {)}^2(\alpha +\beta +1)}$$
• 栗子：与二项式分布、 Gamma 分布有密切联系。

Gamma 分布（Gamma Distribution）

• 概率密度函数（PDF）：
  $$p(x)=\{\begin{array}{rlr}\frac{{\beta }^{\alpha }}{\Gamma (\alpha )}{x}^{\alpha -1}{e}^{-\beta x}& & x>0\\ 0& & x\le 0\end{array}$$
  $$\Gamma (\alpha )={\int }_0^{+\inf }{u}^{\alpha -1}{e}^{-u}du$$
• 期望（Expectation）：
  $$E(X)=\frac{\alpha }{\beta }$$
• 方差（Variance）：
  $$Var(X)=\frac{\alpha }{{\beta }^2}$$
• 栗子：常见于水文研究，与指数分布、高斯分布有密切联系。