随机变量及其分布和几种常见分布

符号

$(I)$(0-1)分布(离散型)

X∼B(1,p) X ∼ B ( 1 , p )

$$X\sim B(1,p)$$
$(II)$伯努利试验，二项分布(离散型) $$X\sim B(n,p)$$
$(III)$泊松分布(离散型)
$$X\sim \pi(\lambda)$$
$(IV)$几何分布（离散型） $$X\sim G(p)$$
$(V)$超几何分布（离散型） $$X\sim H(n,M,N)$$
$(VI)$均匀分布(连续型)
$$X\sim U(a,b)$$
$(VII)$指数分布(连续型)
$$X\sim E(\theta)$$
$(VIII)$正态分布(连续型)
$$X\sim N(\mu,\sigma^2)$$
标准正态分布： $$X\sim N(0,1)$$

随机变量

定义：
设随机试验的样本空间$S=\{e\}.X=X(e)$是定义在样本空间$S$上的 实值单值函数。称$X=X(e)$为 随机变量。
投掷一枚硬币三次，观察出现正面和反面的情况
样本空间是：

$$S=\{HHH,HHT,HTH,THH,HTT,THT,TTH,TTT\}$$
以 $X$记三次投掷得到正面$H$的总数，那么对于样本空间 $S=\{e\}$中每一个样本点 $e$，$X$都有一个数与之对应。 $X$是定义在样本空间$S$上的一个实值单值函数，他的定义域是样本空间 $S$,值域是实数集合$\{0,1,2,3\}$,使用函数标记可以将 $X$写成：
$$X=X(e)=\left\{\begin{aligned}3,&e=HHH\\ 2,&e=HHT,HTH,THH\\ 1,&e=HTT,THT,TTH\\ 0,&e=TTT\\ \end{aligned}\right.$$

离散型随机变量及其分布律

有些随机变量，他的全部可能取值是有限个或者可列无限多个，这种随机变量称为离散型随机变量。
设离散型随机变量$X$的所有可能取值为$x_k(k=1,2,\cdots)$,$X$取各个可能值得概率，即事件$\{X=x_k\}$的概率，为

$$P\{X=x_k\}=p_k,\quad k=1,2,\cdots.\tag{1}$$
由概率的定义， $p_k$满足如下两个条件：

$1^{\circ}$，$p_k\geq 0,\quad k=1,2,\cdots;$
$2^{\circ}$，$\sum\limits_{k=1}^{\infty}p_k=1.$

我们称$(1)$为离散型随机变量$X$的分布律。分布律也可以用表格的形式来表示

$(I)$(0-1)分布(离散型)

设随机变量$X$只可能取$0$与$1$两个值，它的分布律是

$$P\{X=k\}=p^k(1-p)^{1-k},k=0,1\quad (0<p<1)$$
则称$X$服从以$p$为参数的$(0-1)$分布或两点分布。
$(0-1)$分布也可以写成

对于一个随机试验，如果它的样本空间只包含两个元素，即$S=\{e_1,e_2\}$,我们总能在$S$上定义一个服从$(0-1)$分布的随机变量

$$X=X(e)=\left\{\begin{aligned}0,当e=e_1\\1,当e=e_2\\\end{aligned}\right.$$

$(II)$伯努利试验，二项分布(离散型)

设试验$E$只有两个可能结果：$A$与$\overline{A}$，则称$E$为伯努利试验(Bernoulli)试验。
。设$P(A)=p(0<p<1)$,此时$P(\overline{A})=1-p$.将$E$独立重复地进行$n$次，则称这一连串重复地独立试验为$n$重伯努利试验。
这里的重复是指在每次试验中$P(A)=p$保持不变；
独立是指各次试验结果互不影响，即若以$C_i$记第$i$次试验的结果，$C_i$为$A$或$\overline{A}，i=1,2,\cdots,n.$
独立是指

P(C1C2⋯Cn)=P(C1)P(C2)⋯P(Cn) P ( C 1 C 2 ⋯ C n ) = P ( C 1 ) P ( C 2 ) ⋯ P ( C n )

$$P(C_1C_2\cdots C_n)=P(C_1)P(C_2)\cdots P(C_n)$$ .

以$X$表示$n$重伯努利试验中事件$A$发生的次数，$X$是一个随机变量，我们求它的分布律。$X$的所有可能取值为$0,1,2,\cdots,n.$由于各次试验是相互独立的，因此事件$A$在指定的$k(0\leq k\leq n)$次试验中发生，在其他$n-k$次试验中$A$不发生的概率为

$$\underbrace{p\cdot p\cdot\space\cdots\space\cdot p}_{\text{k}} \cdot\underbrace{(1-p)\cdot(1-p)\cdot\space\cdots\space\cdot(1-p)}_{\text{(n-k)}}=p^k(1-p)^{n-k}$$
这种指定的方式共有$\begin{pmatrix}n\\ k\\\end{pmatrix}$种，它们是两两互不相容的，故在$n$次试验中$A$发生$k$次的概率是$\begin{pmatrix}n\\ k\\\end{pmatrix}p^k(1-p)^{n-k}$,记$q=1-p$，即有

P{X=k}=(nk)pk(1−p)n−k,k=0,1,2,⋯,n. P { X = k } = ( n k ) p k ( 1 − p ) n − k , k = 0 , 1 , 2 , ⋯ , n .

$$P\{X=k\}=\begin{pmatrix}n\\ k\\\end{pmatrix}p^k(1-p)^{n-k},k=0,1,2,\cdots,n.$$
显然：
$$P\{X=k\}\geq0,k=0,1,2,\cdots,n;$$
$$\sum_{k=0}^{n}P\{X=k\}=\sum_{k=0}^{n}\begin{pmatrix}n\\ k\\\end{pmatrix}p^k(1-p)^{n-k}=(p+q)^n=1$$
所以$P\{X=k\}$满足条件$1^{\circ},2^{\circ}$，注意到$\begin{pmatrix}n\\ k\\\end{pmatrix}p^kq^{n-k}$刚好是二项式$(p+q)^n$的展开式中$p^k$的那一项，我们称变量$X$服从参数为$n,p$的二项分布，并记为$X\sim b(n,p)$.
特别的，当$n=1$时二项分布化为
$$P\{X=k\}=p^kq^{1-k},k=0,1$$
这就是$(0-1)分布$.

$(III)$泊松分布(离散型)

设随机变量$X$所有可能取值为$0,1,2,\cdots$,而取各个值得概率是

$$P\{X=k\}=\dfrac{\lambda^ke^{-\lambda}}{k!},k=0,1,2,\cdots$$
其中$\lambda>0$是常数。则称$X$是服从参数$\lambda$的泊松分布，记为$X\sim \pi(\lambda)$
对于条件$1^{\circ},2^{\circ}$
$P\{X=k\}\geq0,k=0,1,2,\cdots$且有
$$\sum_{k=0}^{\infty}P\{X=k\}=\sum_{k=0}^{\infty}\dfrac{\lambda^ke^{-\lambda}}{k!}=e^{-\lambda}\sum_{k=0}^{\infty}\dfrac{\lambda^k}{k!}=e^{-\lambda}\cdot e^{\lambda}=1$$

泊松定理

设$\lambda>0$是一个常数，$n$是任意正整数，设$np_n=\lambda$,则对任意一个固定的非负整数$k$,有

$$\lim_{n\rightarrow\infty}\begin{pmatrix}n\\ k\\\end{pmatrix}p_{n}^{k}(1-p_{n})^{n-k}=\dfrac{\lambda^ke^{-\lambda}}{k!}$$
证：
由$p_n=\dfrac{\lambda}{n}$有

$$\begin{aligned}\begin{pmatrix}n\\ k\\\end{pmatrix}p_{n}^{k}(1-p_{n})^{n-k}&=\dfrac{n(n-1)\cdots(n-k+1)}{k!}\left(\dfrac{\lambda}{n}\right)^k\left(1-\dfrac{\lambda}{n}\right)^{n-k}\\ &=\dfrac{\lambda^k}{k!}[1\cdot(1-\dfrac{1}{n})\cdots(1-\dfrac{k-1}{n})]\left(1-\dfrac{\lambda}{n}\right)^{n}\left(1-\dfrac{\lambda}{n}\right)^{-k}\\ \end{aligned}$$
对任意固定的$k$，当$n\rightarrow\infty$
$$1\cdot(1-\dfrac{1}{n})\cdots(1-\dfrac{k-1}{n})\rightarrow1,\left(1-\dfrac{\lambda}{n}\right)^{n}\rightarrow e^{-\lambda},\left(1-\dfrac{\lambda}{n}\right)^{-k}\rightarrow1.$$
故有：
$$\lim_{n\rightarrow\infty}\begin{pmatrix}n\\ k\\\end{pmatrix}p_{n}^{k}(1-p_{n})^{n-k}=\dfrac{\lambda^ke^{-\lambda}}{k!}$$

$(IV)$几何分布（离散）

如果$X$的概率分布为$P\{X=k\}=q^{k-1}p(k=1,2\cdots;0<p<1;q=1-p)$则称$X$服从参数为$P$的几何分布，记为$X\sim G(p)$

$(V)$超几何分布（离散）

从一个有限总体中进行不放回抽样常会遇到超几何分布
设由$N$个产品组成的总体，其中含有$M$个不合格品，若从中随机不放回地抽取$n$个，其中含有不合格的产品个数$X$是一个离散型随机变量，假如$n\leq M$，则$X$的可能取值为$0,1,\cdots,n$;若$X$可能取值$0,1,\cdots,M$由古典方法

$$P\{X=x\}=\dfrac{C_{M}^{x}C_{N-M}^{n-x}}{C_{N}^{n}}\tag{*}$$
由组合等式
$$\sum_{x=0}^{r}C_{M}^{x}C_{N-M}^{n-x}=C_{N}^{n}$$
可以看出上述的概率之和为$1$,即$\sum_{x=0}^{r}P\{X=x\}=1$故$*$式所表示的一组概率构成一个概率分布，这个分布称为超几何分布
它含有三个参数$N,M,n$记为$X\sim H(n,N,M)$
数学期望
若$X\sim H(n,N,M)$，则数学期望为
$$E(X)=\sum_{x=0}^{r}x\dfrac{C_{M}^{x}C_{N-M}^{n-x}}{C_{N}^{n}}=\dfrac{nM}{N}\sum_{x=1}^{r}\dfrac{C_{M-1}^{x-1}C_{N-M}^{n-x}}{C_{N-1}^{n-1}}=\dfrac{nM}{N}$$
当$n\ll N$（即抽取个数$n$远远小于产品数$N$）时，每次抽取后，总体中不合格品率$p=\dfrac{M}{N}$改变非常小，这时候的不放回抽样可以看成是放回抽样，这时候超几何分布可以用二项分布来近似。

随机变量的分布函数

设$X$是一个随机变量，$x$是任意实数，函数

$$F(x)=P\{X\leq x\},-\infty<x<+\infty$$
称为$X$的分布函数。
对于任意实数$x_1,x_2,(x_1<x_2)$,有
$$\begin{aligned}P \{x_1<X \leq x_2 \}&=P\{X\leq x_2\} - P\{X \leq x_1\}\\ &=F(x_2)-F(x_1)\end{aligned}\tag{A}$$
因此如果已知$X$的分布函数，我们就知道$X$落在区间$(x_1,x_2]$上的概率。
如果将$X$看成是数轴上的随机点的坐标，那么，分布函数$F(x)$在$x$处的函数值就表示$X$落在区间D$(-\infty,x]$上的概率。
分布函数$F(x)$具有以下的基本性质：

$1^{\circ}$:
$F(x)$是一个不减函数
事实上式$(A)$对于任意的实数$x_1,x_2(x_1<x_2)$，有
$$F(x_2)-F(x_1)=P\{x_1<X\leq x_2\}\geq0$$
$2^{\circ}$:
$0\leq F(x)\leq1$，且
$$F(-\infty)=\lim_{x\rightarrow-\infty}F(x)=0,F(\infty)=\lim_{x\rightarrow\infty}F(x)=1$$
$3^{\circ}$:
$F(x+0)=F(x)$

连续型随机变量概率密度

如果对于随机变量$X$的分布函数$F(x)$,存在非负可积函数$f(x)$,对于任意实数$x$有

$$F(x)=\int_{-\infty}^{x}f(t)\mathbb{d}t$$
则称$X$为连续型随机变量，$f(x)$称为$X$的概率密度函数，简称概率密度
概率密度函数的性质：

$1^{\circ}$:

$$f(x)\geq0;$$
$2^{\circ}$: $$\int_{-\infty}^{+\infty}f(x)\mathbb{d}x=1$$
$3^{\circ}$:对于任意实数$x_1,x_2(x_1\leq x_2)$, $$P\{x_1<X\leq x_2\}=F(x_2)-F(x_1)=\int_{x_1}^{x_2}f(x)\mathbb{d}x$$
$4^{\circ}$:若$f(x)$在点$x$处连续，则有$F^{'}(x)=f(x)$

若$f(x)$具备性质$1^{\circ},2^{\circ}$,引入$G(x)=\int_{-\infty}^{x}f(t)\mathbb{d}t$,它是某一随机变量$X$分布函数，$f(x)$是$X$的概率密度。

三个重要的连续型随机变量

$(VI)$均匀分布(连续型)

若连续型随机变量$X$具有概率密度

$$f(x)=\left\{\begin{aligned}&\dfrac{1}{b-a}&,a<x<b\\ &0&,其他\\ \end{aligned}\right.$$
则称$X$在区间$(a,b)$上服从均匀分布。记为$X\sim U(a,b)$

分布函数

$$F(x)=\left\{\begin{aligned} &0&,x<a\\ &\dfrac{x-a}{b-a}&,a\leq x<b\\ &1&,x\geq b\\ \end{aligned}\right.$$

$(VII)$指数分布(连续型)

若连续型随机变量$X$具有概率密度

$$f(x)=\left\{\begin{aligned}&\dfrac{1}{\theta}e^{{-x}/{\theta}}&,x>0\\ &0&,其他\\ \end{aligned}\right.$$
分布函数

$$F(x)=\left\{\begin{aligned}&1-e^{-x/\theta}&,x>0\\ &0&,其他\\ \end{aligned}\right.$$

无记忆性：
对于任意的$s,t>0$,有
$$P\{X>s+t\mid X>s\}=P\{X>t\}$$

P{X>s+t∣X>s}=P{(X>s+t)∩(X>s)}P{X>t}=P{X>s+t}P{X>t}=1−F(s+t)1−F(s)=e−(s+t)/θe−s/θ=e−t/θ=P{X>t} P { X > s + t ∣ X > s } = P { ( X > s + t ) ∩ ( X > s ) } P { X > t } = P { X > s + t } P { X > t } = 1 − F ( s + t ) 1 − F ( s ) = e − ( s + t ) / θ e − s / θ = e − t / θ = P { X > t }

$$\begin{aligned}P\{X>s+t\mid X>s\}&=\dfrac{P\{(X>s+t)\cap(X>s)\}}{P\{X>t\}}\\ &=\dfrac{P\{X>s+t\}}{P\{X>t\}}=\dfrac{1-F(s+t)}{1-F(s)}\\ &=\dfrac{e^{-(s+t)/\theta}}{e^{-s/\theta}}=e^{-t/\theta}\\ &=P\{X>t\}\\ \end{aligned}$$

$(VIII)$正态分布(连续型)

若连续型随机变量$X$具有概率密度

$$f(x)=\dfrac{1}{\sqrt{2\pi}\sigma}e^{-\dfrac{(x-\mu)^2}{2\sigma^2}},-\infty<x<+\infty$$
其中$\mu,\sigma(\sigma>0)$为常数，则称$X$服从参数为$\mu,\sigma$的正态分布或高斯分布，记为$X\sim N(\mu,\sigma^2)$
相关性质：

$1^{\circ}$:曲线关于$x=\mu$对称，这表明对于任意$h>0$有

P{μ−h<X≤μ}=P{μ<X≤μ+h} P { μ − h < X ≤ μ } = P { μ < X ≤ μ + h }

$$P\{\mu-h<X\leq\mu\}=P\{\mu<X\leq\mu+h\}$$
$2^{\circ}$:当$x=\mu$时取到最大值
$$f(\mu)=\dfrac{1}{\sqrt{2\pi}\sigma}$$

分布函数
$$F(x)=\dfrac{1}{\sqrt{2\pi}\sigma}\int_{-\infty}^{x}e^{-\dfrac{(t-\mu)^2}{2\sigma^2}}\mathbb{d}t$$

标准正态分布
特别当$\mu=0,\sigma=1$时称变量$X$服从标准正态分布，其概率密度和分布函数分别用$\phi(x),\Phi(x)$表示，既有：

$$\phi(x)=\dfrac{1}{\sqrt{2\pi}}e^{-x^2/2}\\ \Phi(x)=\dfrac{1}{\sqrt{2\pi}}\int_{-\infty}^{x}e^{-t^2/2}\mathbb{d}t\\ 容易得到：\Phi(-x)=1-\Phi(x)$$
引理：
若$X\sim N(\mu,\sigma^2)$，则$Z=\dfrac{X-\mu}{\sigma}\sim N(0,1)$
证：
$$\begin{aligned}P\{Z\leq x\}&=P\left\{\dfrac{X-\mu}{\sigma}\leq x\right\}\\ &=P\{X\leq \mu+\sigma x\}\\ &=\dfrac{1}{\sqrt{2\pi}}\int_{-\infty}^{\mu+\sigma x}e^{-\dfrac{(t-\mu)^2}{2\sigma^2}}\mathbb{d}t\\ 令：\dfrac{t-\mu}{\sigma}=u，得\\ P\{Z\leq x\}&=\dfrac{1}{\sqrt{2\pi}}\int_{-\infty}^{x}e^{-u^2/2}\mathbb{d}u=\Phi(x)\\ \end{aligned}$$