概率论--随机变量的数字特征

数学期望

随机变量的数学期望

意义：反映随机变量平均取值的大小，体现了随机变量取值的平均水平

简称期望或均值
如果离散型随机变量X的分布律为： P { X = x k } = p k ( k = 1 , 2 , 3 , . . . ) P\{X=x_k\}=p_k(k=1,2,3,...) P{X=xk​}=pk​(k=1,2,3,...)，并且级数${\sum }_{k=1}^{+\infty }{x}_k{p}_k$绝对收敛；
如果连续型随机变量X具有概率密度f(x),且积分${\int }_{-\infty }^{+\infty }xf(x)dx$绝对收敛，那么随机变量X的数学期望E(X)，定义为

$$\{\begin{array}{ll}{\sum }_{k=1}^{+\infty }{x}_k{p}_k,& X为离散型\\ {\int }_{-\infty }^{+\infty }xf(x)dx,& X为连续型\end{array}$$

期望计算的例子

某有奖活动，活动方设置一等奖10000元共3份，二等奖5000元共10份，三等奖10元共500份，并且向社会发放了5万份抽奖券，假设某人有一张抽奖券，他参与抽奖的预期收益为多少？

解：假设奖金X是一个随机变量，它的分布律为

X	10000	5000	10
$p_k$	$\frac{5}{5\times 10^4}$	$\frac{10}{5\times 10^4}$	$\frac{500}{5\times 10^4}$

某人的收益期望为
$$\begin{array}{rl}E(X)& =10000\times \frac{5}{5\times 10^4}+5000\times \frac{10}{5\times 10^4}+10\times \frac{500}{5\times 10^4}\\ & =2.1(元)\end{array}$$

随机变量函数的数学期望

对于单个随机变量$X$

Y是随机变量X的函数：$Y=g(X)$，
如果离散型随机变量X的分布律为： P { X = x k } = p k ( k = 1 , 2 , 3 , . . . ) P\{X=x_k\}=p_k(k=1,2,3,...) P{X=xk​}=pk​(k=1,2,3,...)，并且级数${\sum }_{k=1}^{+\infty }{x}_k{p}_k$绝对收敛；
如果连续型随机变量X具有概率密度f(x)，且积分${\int }_{-\infty }^{+\infty }xf(x)dx$绝对收敛，那么

$$E(Y)=E(g(X))=\{\begin{array}{ll}{\sum }_{k=1}^{+\infty }g(x_k)p_k,& X为离散型\\ {\int }_{-\infty }^{+\infty }g(x)f(x)dx,& X为连续型\end{array}$$

由上面公式我们知道要想求得$E(Y)$只需要确定$X$的分布即可

期望计算的例子

如果X的分布律如下，求$E(X^2),E(2X+1)$

X	-1	0	2
$p_k$	$\frac{1}{8}$	$\frac{1}{2}$	$\frac{3}{8}$

$$\begin{gathered} E(X^2)=(-1{)}^2\times \frac{1}{8}+0^2\times \frac{1}{2}+2^2\times \frac{3}{8}=\frac{13}{8} \\ E(2X+1)=(-1)\times \frac{1}{8}+1\times \frac{1}{2}+5\times \frac{3}{8}=\frac{9}{4} \end{gathered}$$

假设某工厂可以制造出某种成品，市场对其需求量为随机变量X（吨），并且$X\sim U(2000,4000)$，假设每售出1吨成品的获利3万元，但是如果制造出来的成品没有及时售卖而是放在仓库，每吨成品将会花费1万元的保养费。现在工厂要进行决策，制造出多少吨成品才能使得收益最大化？

解：假设变量y为应制造出来的成品吨数，则该工厂的收益为
$$W=g(X)=\{\begin{array}{ll}3y，& X\ge y\\ 3X-1\times (y-X),& X<y\end{array}$$
$$\begin{array}{rl}E(X)& ={\int }_{-\infty }^{+\infty }g(x)f(x)dx\\ & ={\int }_{2000}^{4000}g(x)\frac{1}{2000}dx\\ & =\frac{1}{2000}{\int }_{2000}^y(4x-y)dx+\frac{1}{2000}{\int }_y^{4000}3ydx\\ & =\frac{1}{1000}(-y^2+7000y+4\times 10^6)\end{array}$$
通过上面的式子我们看到，当y=3500时，期望$E(W)$达到最大值，所以该工厂应该生产成品3500吨，预期收益为8250万元

对于多个随机变量$X,Y$

V是随机变量X,Y的函数：$V=g(X,Y)$.
如果离散型随机变量（X,Y）的分布律为： P { X = x i , Y = y i } = p i , j ( i , j = 1 , 2 , 3 , . . . ) P\{X=x_i,Y=y_i\}=p_{i,j}(i,j=1,2,3,...) P{X=xi​,Y=yi​}=pi,j​(i,j=1,2,3,...)，并且级数${\sum }_{i=1}^{+\infty }{\sum }_{j=1}^{+\infty }g(x_i,y_j)p_{i,j}$绝对收敛；
如果连续型随机变量（X,Y）具有概率密度f(x,y)，且积分${\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)dxdy$绝对收敛，那么有

$$\begin{array}{rl}E(V)& =E(g(X,Y))\\ & =\{\begin{array}{ll}{\sum }_{j=1}^{+\infty }{\sum }_{i=1}^{+\infty }g(x_i,y_i)p_{i,j},& (X,Y)为离散型\\ {\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)dxdy,& (X,Y)为连续型\end{array}\end{array}$$

期望计算的例子

随机变量$(X,Y)$的概率密度如下，求$E(X+Y)$
$$f(x,y)=\{\begin{array}{ll}(x+y),& 0\le x\le 2,0\le y\le 2\\ 0,& 其他\end{array}$$

$$\begin{array}{rl}E(X+Y)& ={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }(x+y)f(x,y)dxdy\\ & ={\int }_0^{2}dx{\int }_0^2(x+y{)}^{2}dy\\ & =8+\frac{32}{3}\end{array}$$

数学期望性质

$$\begin{array}{rl}1.& E(C=C)\\ 2.& E(CX)=CE(X)\\ 3.& E(X+Y)=E(X)+E(Y)\\ 4.& 如果X、Y相互独立，E(XY)=E(X)E(Y)\end{array}$$

方差、均方差

意义：反映了随机变量的离散程度

对于随机变量X，若 E { [ X − E ( X ) ] 2 } E\{[X-E(X)]^2\} E{[X−E(X)]2}存在，那么该随机变量的方差和标准差的表达式如下

	表达式	记作
方差	E { [ X − E ( X ) ] 2 } E\{[X-E(X)]^2\} E{[X−E(X)]2}	$D(X)或Var(X)$
标准差、均方差	E { [ X − E ( X ) ] 2 } \sqrt{E\{[X-E(X)]^2\}} E{[X−E(X)]2} ​	$\sigma (X)$

对于离散型随机变量X，其分布律为 P { X = x k } = p k ( k = 1 , 2 , 3 , . . . ) P\{X=x_k\}=p_k(k=1,2,3,...) P{X=xk​}=pk​(k=1,2,3,...)
对于连续型随机变量X，其概率密度为$f(x)$，那么
$$D(X)=\{\begin{array}{ll}{\sum }_{k=1}^{+\infty }[x_k-E(X{)}^2],& X为离散型\\ {\int }_{-\infty }^{+\infty }[x_k-E(X{)}^2]f(x)dx,& X为连续型\end{array}$$

由数学期望的性质推导可得，随机变量的计算式可变为下式
$$D(X)=E(X^2)-[E(X){]}^2$$

常见概率分布的数学期望和方差一览表

	分布类型	概率密度/分布律	数学期望$E(X)$	$方差D(X)$
$X\sim \pi (\lambda )$	泊松分布	P { X = k } = λ k e − λ k ! P\{X=k\}=\frac{\lambda^ke^{-\lambda}}{k!} P{X=k}=k!λke−λ​	$\lambda$	$\lambda$
$X\sim U(a,b)$	均匀分布	$f(x)=\{\begin{array}{ll}\frac{1}{b-a},& a<x<b\\ 0,& 其他\end{array}$	$\frac{a+b}{2}$	$\frac{(b-a{)}^2}{12}$
$X\sim e(\lambda )$	指数分布	$f(x)=\{\begin{array}{ll}\frac{1}{\lambda }{e}^{-\frac{x}{\lambda }},& x>0\\ 0,& x<0\end{array}$	$\lambda$	${\lambda }^2$
$X\sim B(p)$	伯努利分布	P { X = k } = p k ( 1 − p ) n − k P\{X=k\}=p^k(1-p)^{n-k} P{X=k}=pk(1−p)n−k	p	$p(1-p)$
$X\sim B(n,p)$	二项分布	P { X = k } = C n k p k ( 1 − p ) n − k ( k = 0 , 1 , 2 , . . ) P\{X=k\}=C_n^kp^k(1-p)^{n-k}(k=0,1,2,..) P{X=k}=Cnk​pk(1−p)n−k(k=0,1,2,..)	$np$	$np(1-p)$
$X\sim N(\mu ,{\sigma }^2)$	正态分布	$p=\{\begin{array}{ll}0.6827,& \mu -\sigma <X<\mu +\sigma \\ 0.9545,& \mu -2\sigma <X<\mu +2\sigma \\ 0.9973,& \mu -3\sigma <X<\mu +3\sigma \end{array}$	$\mu$	${\sigma }^2$

协方差

意义：描述两个变量之间的是否同时偏离均值（即期望），该值大于0，两者呈现正相关性，小于0，两者呈现负相关性

对于(X,Y)二维随机变量，其协方差为
C o v ( X , Y ) = E { [ X − E ( X ) ] [ Y − E ( Y ) ] } Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\} Cov(X,Y)=E{[X−E(X)][Y−E(Y)]}

协方差性质

$$\begin{array}{rl}1.& Cov(X,Y)=Cov(Y,X)\\ 2.& Cov(aX,bY)=abCov(X,Y)\\ 3.& Cov(X_1,X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)\\ 4.& XY相互独立，那么Cov(X,Y)=0\\ 5.& Cov(X,X)=D(X)\\ 6.& Cov(X+Y)=D(X)+D(Y)+2Cov(X,Y)\\ 7.& Cov(X,Y)=E(XY)-E(X)E(Y)\end{array}$$

相关系数

问题引入：当随机变量XY有一个与其数学期望的差很小，无论随机变量XY之间关系多么密切，协方差的差总是接近0，这时候，协方差就不能够很好的表示两者之间关系的密切程度，因此引入相关系数这一特征量，用来刻画XY之间的线性相关程度

对于(X,Y)二维随机变量，其相关系数为
$${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$$

相关系数性质

1. X ， Y 相 互 独 立 时 ， ρ X Y = 0 2. ∣ ρ X Y ∣ ≤ 1 3. ∣ ρ X Y ∣ = 1 的 充 要 条 件 为 P { Y = a + b X } = 1 ( a ≠ 0 , b 为 常 数 ) \begin{aligned} &1.X，Y相互独立时，\rho_{XY}=0\\ &2.|\rho_{XY}|\leq1\\ &3.|\rho_{XY}|=1的充要条件为P\{Y=a+bX\}=1(a\ne 0,b为常数) \end{aligned} ​1.X，Y相互独立时，ρXY​=02.∣ρXY​∣≤13.∣ρXY​∣=1的充要条件为P{Y=a+bX}=1(a​=0,b为常数)​

关于相关系数的一些结论

$$\begin{array}{rl}& 1.\rho =0时，称X,Y不相关,两者一定不存在线性关系\\ & 2.两个相互独立的随机变量一定不相关，但两个不相关的随机变量不一定相互独立\\ & 3.0\le |{\rho }_{XY}|\le 1时，|{\rho }_{XY}|越接近1，X,Y的线性相关程度越强\\ & 4.相关系数只有相对意义,没有绝对意义,还要考虑样本空间的大小\end{array}$$