概率论考研笔记（二）

概率论考研笔记（二）：随机变量

• 随机变量相关概念和性质：

概念	释义	性质
随机变量	若随机试验E中任意事件e都对应一个单值实函数X = X(e)，则称X为随机变量	一般用大写字母X,Y,Z表示随机变量，以小写字母x,y,z表示其实数值
概率分布	随机变量X的各个取值与其对应事件的概率的映射描述，称为X的概率分布	任何一个随机变量都对应一个概率分布
分布函数$F(x)$	设X为随机变量，x是任意实数，则称函数$F(x)=P(X\le x)$为X的分布函数	①F(x)表示X在区间$(-\infty ,x]$取值的概率 $\Rightarrow$ 充要条件②③④： ②$0\le F(x)\le 1$ ③单调不减 ④右连续(对于连续型随机变量，应是连续函数) ⑤$P(X>x)=1-F(x)$ ⑥$P(a<X\le b)=F(b)-F(a)$ ⑦若连续型随机变量的概率密度为偶函数，则有： $F(-a)=1-F(a)$ $P(\Vert X\Vert <a)=2F(a)-1$ $P(\Vert X\Vert >a)=2[1-F(a)]$
离散型随机变量	若随机变量X的可能取值可数，则称X为离散型随机变量	非离散型随机变量不能按一定的顺序排列起来，不能明确指出某个取值的前或后是哪个值
分布律	若离散型随机变量X的任意取值为$x_i$，其概率为$p_i$，则称： $P(X=x_i)=p_i$，i=1,2,…为X的分布律	①分布律只针对离散型随机变量 ② $p_i\ge 0$ ③ $\Sigma p_i=1$
连续型随机变量	若随机变量X的分布函数F(x)，若存在非负可积函数f(x), 对任意实数x有： $F(x)={\int }_{-\infty }^{x}f(t)dt$，则称X是连续型随机变量	①X的取值不可数 ②X在任意取值的概率为0
概率密度函数$f(x)$	连续型随机变量X的定义中所存在的那个非负可积函数f(x)	①非负性 ②对应分布函数F(x)连续 ③若f(x)在点$x_0$连续，则F(x)在$x_0$处可导,且F’($x_0$) = f($x_0$) ④${\int }_{-\infty }^{+\infty }f(x)dx=1$ ⑤$P(a<X\le b)={\int }_a^{b}f(x)dx$
依概率收敛	设$X_1,X_2,...,X_n$是一列随机变量，若存在随机变量X，使得对于任意$ϵ>0$,$\underset{n->\infty }{\lim }P(\Vert X_n-X\Vert <ϵ)=1$，则称随机变量序列 { X n } \{X_n\} {Xn​}依概率收敛于随机变量X，记为$X_n\stackrel{P}{\to }X$	依概率收敛是一种概率意义上的收敛，与数学分析中的收敛有明显区别，因为它仅要求“概率”为1，实际上可能是发散的，因此它的条件“更弱”

---

• 随机变量的数字特征：

数字特征	定义	性质
中位数$m$	若$P(X\le m)\ge \frac{1}{2}$且$P(X\ge m)\le \frac{1}{2}$，则称m为随机变量X的中位数	中位数反映随机变量X的取值的中间值
期望$EX$	离散型：$EX={\Sigma }_{i=1}^{+\infty }{x}_i{p}_i$，若其绝对收敛，否则不存在； 连续型：$EX={\int }_{-\infty }^{+\infty }xf(x)dx$, 若其绝对收敛，否则不存在	①数学期望反映了随机变量X取值的平均水平; ②$\forall C,E(C)=C$; ③当$X\ge 0$时，$EX\ge 0$;
方差$DX$	若$E{X}^2<+\infty$，则：$DX=E(X-EX{)}^2$	①方差反映了随机变量X的取值相对于期望的分散程度; ②离散型：$DX={\Sigma }_{i=1}^{+\infty }(x_i-EX{)}^2{p}_i$ 连续型：$DX={\int }_{-\infty }^{+\infty }(x-EX{)}^{2}f(x)dx$; ③$\forall C,D(C)=0$; ④$\forall c\ne EX,DX<E[(X-c{)}^2]$,即随机变量关于期望的偏离程度比关于其他任何值c的偏离程度都要小
标准差$\sigma (X)$	$\sigma (X)=\sqrt{DX}$	标准差的效果与方差基本相同，只是用处有时不同
$k$阶原点矩	若$E(abs(X{)}^k)<+\infty$，则称：$E{X}^k$为X的k阶原点矩，简称k阶矩	X的期望即为一阶（原点）矩
$k$阶中心矩	若$E(abs(X-EX{)}^k)<+\infty$，则称：$E(X-EX{)}^k$为X的k阶中心矩	X的方差即为二阶中心矩； 三阶中心距常用于衡量分布是否有偏 （若三阶中心距为0，则分布关于期望对称）； 四阶中心距常用于衡量分布在均值附近的陡峭程度；
协方差$cov(X,Y)$	若$E(\Vert X\Vert ),E(\Vert Y\Vert ),E(\Vert [(X-EX)(Y-EY)]\Vert )$均有限，则： $cov(X,Y)=E[(X-EX)(Y-EY)]$	①协方差用于衡量两个变量的总体误差; ②若X,Y独立，则：$cov(X,Y)=0$; ③$cov(X,X)=DX$；
相关系数${\rho }_{XY}$	若$DX>0,DY>0$，则： ${\rho }_{XY}=\frac{cov(X,Y)}{\sigma (X)\ast \sigma (Y)}$	①相关系数是X,Y的标准化随机变量$X^{\ast }=\frac{X-EX}{\sigma (X)},Y^{\ast }=\frac{Y-EY}{\sigma (Y)}$的协方差; ②$-1\le {\rho }_{XY}\le 1$; ③当${\rho }_{XY}>0$时，X,Y呈正相关，特殊地：当${\rho }_{XY}=1$时，X,Y呈线性正相关，即：$Y=aX+b(a>0)$; ④当${\rho }_{XY}<0$时，X,Y呈负相关，特殊地：当${\rho }_{XY}=-1$时，X,Y呈线性负相关，即：$Y=aX+b(a<0)$; ⑤当$\Vert {\rho }_{XY}\Vert \to 0$时，X,Y的线性相关性越弱，特殊地：当${\rho }_{XY}=0$时，X,Y线性无关/不相关 （注：不相关仅代表线性无关，但并非一定无关，即不一定独立）

---

• 随机变量数学特征的相关公式：

  • $E(aX+bY)=aE(X)+bE(Y)$
  • 若X,Y相互独立，则：$E[XY]=EX\times EY$
  • 全期望公式：
    • 离散型：$EX={\Sigma }_{j=1}^{+\infty }E(X\Vert Y=y_j)P(Y=y_j)$
    • 连续型：$EX={\int }_{-\infty }^{+\infty }E(X\Vert Y=y_j)f_Y(y)dy$；
      其中：$E(X\Vert Y=y_j)$称在给定$Y=y_j$的条件下X的条件期望，有：
      • 离散型定义：$E(X\Vert Y=y_j)=\sum _{i=1}^{+\infty }{x}_{i}P(X=x_i\Vert Y=y_j)=\sum _{i=1}^{+\infty }{x}_i{p}_{ij}/p_{\cdot j}$
      • 连续型定义：$E(X\Vert Y=y_j)={\int }_{-\infty }^{+\infty }x{f}_{X\Vert Y=y_j}(x)dx={\int }_{-\infty }^{+\infty }xf(x,y)/f_Y(y_j)dx$
  • $DX=E{X}^2-E^{2}X$
  • $D(aX+b)=a^{2}DX$
  • $D(X\underline{+}Y)=DX+DY\underline{+}2cov(X,Y)$
    特别地，当X,Y相互独立时，有：
    • $D(X\underline{+}Y)=DX+DY$
    • $D(XY)=D(X)D(Y)+E^{2}XDY+E^{2}YDX$
  • $cov(aX+c,bY+d)=abcov(X,Y)$
  • $cov(X_1+X_2,Y)=cov(X_1,Y)+cov(X_2,Y)$
  • $cov(X,Y)=E(XY)-EXEY$
  • $cov(X+Y,X-Y)=D(X)-DY$
  • 切比雪夫不等式：若随机变量$X$的期望和方差均存在，则有：
    $\forall ϵ>0,P(|X-EX|\ge ϵ)\le \frac{DX}{{ϵ}^2}$
  • 柯西-施瓦兹不等式：
    $E^2(XY)\le E{X}^{2}E{Y}^2$, $[cov(X,Y){]}^2\le DXDY$

---

• 常见离散型随机变量的分布：

分布名称	参数	分布律	期望EX	方差DX	随机试验模型 / 性质
0-1分布 / 两点分布	$p$	$P(X=1)=p$，$P(X=0)=1-p$	$p$	$p(1-p)$	X只有0，1两个取值，即对应随机试验只有两种结果
泊松分布$P$	$\lambda$	$P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda }$	$\lambda$	$\lambda$	泊松分布一般是大量试验中稀有事件出现频数对应随机变量X服从的分布，即$X～P(\lambda )$，例如：单位时间内电话总机接到的呼叫数； 每天高速公路发生的交通事故； 每页印刷品出现的印刷错误数
二项分布$B$	$n,p$	$P(X=k)=C_n^k{p}^k(1-p{)}^{n-k}$	$np$	$np(1-p)$	二项分布是n重伯努利试验的随机变量X所服从的分布，即$X～B(n,p)$; 泊松定理：若极限$\underset{n\to \infty }{\lim }np=\lambda$存在，且$X～B(n,p)$，则X近似服从$P(\lambda )$
几何分布$G$	$p$	$P(X=k)=(1-p{)}^{k-1}p$	$\frac{1}{p}$	$\frac{1-p}{p^2}$	若n重伯努利试验每次结果只有$A$和$\overline{A}$, 且$P(A)=p$，则将试验进行到A首次出现为止的试验次数对应的随机变量X服从几何分布，即$X～G(p)$; 几何分布具有无记忆性，即满足：$P(X=s+t\Vert X>t)=P(X=s)$
超几何分布$H$	$n,M,N$	$P(X=k)=\frac{C_M^k{C}_{N-M}^{n-k}}{C_N^n}$	$\frac{nM}{N}$	$g(\frac{nM}{N})+\frac{g(n)g(M)}{g(N)}$， 其中$g(x)=x(x-1)$	在N件产品（其中有M件次品）中抽出n件进行合格检验，并检验出的次品数对应的随机变量X服从超几何分布，即$X～H(n,M,N)$; 若极限$\underset{N\to \infty }{\lim }\frac{nM}{N}=p$存在，且$X～H(n,M,N)$，则X近似服从$B(N,p)$

---

• 常见连续型随机变量的分布：

分布名称	参数	概率密度	期望EX	方差DX	随机试验模型 / 性质
均匀分布$U$	$a,b$	$f(x)=\{\begin{array}{ll}\frac{1}{b-a}& a<x<b\\ 0& others\end{array}$	$\frac{a+b}{2}$	$\frac{(b-a{)}^2}{12}$	在[a,b]内随机投点的落点坐标等以长度为度量的几何概型对应的随机变量X服从均匀分布，即$X～U(a,b)$； 均匀性：几何分布的概率只和子区间的长度有关，与位置无关
指数分布$E$	$\lambda$	$f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x}& x\ge 0\\ 0& others\end{array}$	$\frac{1}{\lambda }$	$\frac{1}{{\lambda }^2}$	一般各种物体的寿命对应的随机变量X服从指数分布，即$X～E(\lambda )$； 例如：电子设备的寿命、高能粒子的寿命、生物体的寿命； 指数分布具有无记忆性
正态分布$N$	$\mu$,${\sigma }^2$	$f(x)=\frac{1}{\sqrt{2\pi }\sigma }\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2}),x\in R$	$\mu$	${\sigma }^2$	很多自然和社会现象中的随机变量X都服从正态分布，即$X～N(\mu ,{\sigma }^2)$; 例如：某地区成年男子的身高、一批工件的直径、测量误差等； ①标准正态分布：$N(0,1)$,其概率密度记为$\Phi (x)$； ②标准化：若$X～N(\mu ,{\sigma }^2)$，则$Z=\frac{X-\mu }{\sigma }～N(0,1)$； ③ $F(x)$非初等，故一般正态分布的概率计算通过标准化后查表得到； ④ $f(x)$图像呈钟形，且关于$\mu$轴对称，$\sigma$与钟形的陡峭程度呈负相关； ⑤ $f(x)$的最大值为$\frac{1}{\sqrt{2\pi }\sigma }$; ⑥ 常用的$\Phi (x)$: $\Phi (1.96)=0.975$, $\Phi (2.58)=0.995$, $\Phi (1.64)=0.95$; ⑦ $3\sigma$准则: $P(\Vert x-\mu \Vert <\sigma )=0.6826$, $P(\Vert x-\mu \Vert <2\sigma )=0.9544$, $P(\Vert x-\mu \Vert <3\sigma )=0.9974$; ⑧若$X～N(0,1)$，则： $E{X}^{2n-1}=0$, $E{X}^{2n}=(2n-1)!!$

---

• 离散型随机变量函数的分布和期望：

若X是离散型随机变量，且有分布律 / 期望：

$X$	$x_1$	$x_2$	…	$x_n$	…	EX
$P$	$p_1$	$p_2$	…	$p_n$	…	${\Sigma }_{i=1}^{+\infty }{x}_i{p}_i$

则若Y = g(X) 也是离散型随机变量，则Y的分布律 / 期望：

$Y$	$g(x_1)$	$g(x_2)$	…	$g(x_n)$	…	EY
$P$	$p_1$	$p_2$	…	$p_n$	…	${\Sigma }_{i=1}^{+\infty }g(x_i)p_i$

注：若存在$g(x_i)=g(x_j)=...=y_k$, 则:
$P(Y=y_k)=P(X=x_i)+P(X=x_j)+...$，即将同像取值的概率相加；

---

• 连续型随机变量函数的分布和期望：

若X是连续型随机变量，且有概率密度：$f_X(x)$，则Y = g(X)也为连续型随机变量（g(x)为某连续实函数），且有：

• 概率密度：$f_Y(y)=F_Y^{\prime }(y)=[P(Y\le y){]}^{\prime }=[P(g(X)\le y){]}^{\prime }=\frac{d}{dy}\underset{D:g(x)\le y}{\int }{f}_X(x)dx$，

  特殊地，当$g(X)$为单调可导函数，且导数不为零时，有公式：
  $$f_Y(y)=\{\begin{array}{ll}{f}_X[g^{-1}(y)]|g^{-1}(y{)}^{\prime }|,& \alpha <y<\beta \\ 0,& others\end{array}$$

• 期望：$EY=E[g(X)]={\int }_{-\infty }^{+\infty }g(x)f(x)dx$

---

---