宋浩概率论与数理统计笔记——第四章

4.1.1离散型变量的数学期望

平均数	180	190	200	$\frac{180+190+200}{3}$
加权平均	90(0.9)	100(0.09)	15(0.01)	$0.9\times 90+0.09\times 100+0.01\times 15$

离散型的期望

$P(X=x_k)=P_k,若{\Sigma }_{k=1}^{\infty }{x}_k{P}_k绝对收敛,则数学期望EX={\Sigma }_{k=1}^{\infty }{x}_k{P}_k$

数学期望不是一定存在的

例：甲乙两人生产产品，$X_1、X_2$分别是两人生产的次品数，问甲乙两人谁的生产质量更高

$X_1$	0	1	2	3
P	0.3	0.3	0.2	0.2

$X_2$	0	1	2	3
P	0.2	0.5	0.3	0

$E{X}_1=0\ast 0.3+1\ast 0.3+20.2+3\ast 0.2=1.3$

$E{X}_2=0\ast 0.2+1\ast 0.5+2\ast 0.3+3\ast 0=1.1$

乙的生产质量更高

例：一批产品中有一等品、二等品、三等品和次品，分别占60%、20%、10%、10%，四种质量的产品，价格分别为6元、4.8元、4元、0元，求这批产品的产值：

$EX=6\ast 0.6+4.8\ast 0.2+4\ast 0.1+0\ast 0.1=4.96元$

4.1.2连续型变量的数学期望

$随机变量X，密度函数为f(x),若{\int }_{-\infty }^{+\infty }xf(x)dx绝对收敛，则数学期望EX={\int }_{-\infty }^{+\infty }xf(x)dx$

例：$f(x)=\{\begin{array}{rc}2x& 0<x<1\\ 0& else\end{array}$

$EX={\int }_{-\infty }^{+\infty }xf(x)dx={\int }_0^{1}x2xdx=\frac{2}{3}$

例：家电先用后付，家电的寿命符合$\lambda =\frac{1}{10}$的指数分布

$X\le 1年$	1500元
$1年<X\le 2年$	2000元
$2年<X\le 3年$	2500元
$X>3年$	3000元

P { X ≤ 1 } = ∫ 0 1 1 10 e − x 10 d x = 0.0952 P\{X\leq1\}=\int_0^1\frac{1}{10}e^{-\frac{x}{10}}dx=0.0952 P{X≤1}=∫01​101​e−10x​dx=0.0952

P { 1 < X ≤ 2 } = ∫ 1 2 1 10 e − x 10 d x = 0.0861 P\{1<X\leq 2\}=\int_1^2\frac{1}{10}e^{-\frac{x}{10}}dx=0.0861 P{1<X≤2}=∫12​101​e−10x​dx=0.0861

P { 2 < X ≤ 3 } = ∫ 2 3 1 10 e − x 10 d x = 0.0779 P\{2<X\leq3\}=\int_2^3\frac{1}{10}e^{-\frac{x}{10}}dx=0.0779 P{2<X≤3}=∫23​101​e−10x​dx=0.0779

P { X > 3 } = ∫ 3 + ∞ 1 10 e − x 10 d x = 0.7408 P\{X>3\}=\int_3^{+\infty}\frac{1}{10}e^{-\frac{x}{10}}dx=0.7408 P{X>3}=∫3+∞​101​e−10x​dx=0.7408

Y	1500	2000	2500	3000
P	0.0952	0.0861	0.0779	0.7408

$EX=1500\ast 0.0952+2000\ast 0.0861+2500\ast 0.0779+3000\ast 0.7408=2732.15$

4.1.3随机变量函数的数学期望

（1）

$Y=g(X)$

	EX	EY
离散	$\Sigma x_i{P}_i$	$\Sigma g(x_i)P_i$
连续	${\int }_{-\infty }^{+\infty }xf(x)dx$	${\int }_{-\infty }^{+\infty }g(x)f(x)dx$

X	0	1	2
P	0.1	0.6	0.3

$Y=4X+1$

Y	1	5	9
P	0.1	0.6	0.3

$EY=1\ast 0.1+5\ast 0.6+9\ast 0.3=5.8$

$EY=(4\ast 0+1)\ast 0.1+(4\ast 1+1)\ast 0.6+(4\ast 2+1)\ast 0.3=5.8$

$EX=0\ast 0.1+1\ast 0.6+2\ast 0.3=1.2$

$E(X-EX{)}^2=E(X-1.2{)}^2=(0-1.2{)}^2\times 0.1+(1-1.2{)}^2\times 0.6+(2-1.2{)}^2\times 0.3=0.36$

（2）

$f(x)=\{\begin{array}{rc}\frac{1}{2}& 0\le x\le 2\\ 0& else\end{array},Y=4X+1$

$EY=E(4X+1)={\int }_{-\infty }^{+\infty }(4x+1)f(x)dx={\int }_0^2\frac{1}{4}(4x+1)dx=5$

（3）

$X表示商品的需求量，在[2000,4000]上的均匀分布，每卖1吨获利3万元，卖不出每吨损失1万元$

假设$y$是准备出口的商品量，$Y$是收益

$Y=g(x)=\{\begin{array}{rc}3y& x\ge y\\ 3x-(y-x)& x<y\end{array},f(x)=\{\begin{array}{rc}\frac{1}{2000}& 2000\le x\le 4000\\ 0& else\end{array}$

$$\begin{gathered} EY={\int }_{-\infty }^{+\infty }g(x)f(x)dx={\int }_{2000}^{4000}\frac{1}{2000}g(x)dx=\frac{1}{2000}({\int }_{2000}^y(3x-(y-x))dx+{\int }_y^{4000}3ydx) \\ =\frac{1}{1000}(-y^2+7000y-4\times 10^6) \end{gathered}$$

$当y=3500时函数达到顶点$

二维变量函数$Z=g(X,Y)$的期望

(1)离散型：$EX={\Sigma }_i{\Sigma }_{j}g(x_i,y_j)P_{ij}$

X\Y	0	1	2
1	0.1	0.1	0.2
2	0.2	0.2	0.2

$EZ=(1^2-0)\times 0.1+(1^2-1)\times 0.1+(1^2-2)\times 0.2+(2^2-0)\times 0.2+(2^2-1)\times 0.2+(2^2-2)\times 0.2$

(2)连续型：$EX={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)dxdy$

例：

$f(x,y)=\{\begin{array}{rc}x+y& 0\le x\le 1,0\le y\le 1\\ 0& else\end{array}$

$E(XY)={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }xyf(x,y)dxdy={\int }_0^1{\int }_0^{1}xy(x+y)dxdy=\frac{1}{3}$

例：

$$\begin{gathered} X:进货量，Y:需求量,X、Y相互独立并服从在[10,20]上的均匀分布，卖出1件获利1000元， \\ 从其他商店调剂一件获利500元，求每周的平均利润 \end{gathered}$$

$Z=g(X,Y)=\{\begin{array}{rc}1000Y& Y\le X\\ 1000X+500(Y-X)& Y>X\end{array}$

$f_X(x)=\{\begin{array}{rc}\frac{1}{10}& 10\le x\le 20\\ 0& else\end{array},f_Y(y)\{\begin{array}{rc}\frac{1}{10}& 10\le y\le 20\\ 0& else\end{array}$

$f(x,y)=f_X(x)f_Y(y)=\{\begin{array}{rc}\frac{1}{100}& 10\le x\le 20,10\le y\le 20\\ 0& else\end{array}$

$$\begin{gathered} EZ={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)dxdy=\frac{1}{100}{\int }_{10}^{20}{\int }_{10}^{20}g(x,y)dxdy \\ =\frac{1}{100}{\int }_{10}^{20}dy{\int }_{10}^{20}g(x,y)dx \\ =\frac{1}{100}{\int }_{10}^{20}dy[{\int }_{10}^{y}500(x+y)dx+{\int }_y^{20}1000ydx] \\ \approx 14166.67 \end{gathered}$$

4.1.4数学期望的性质

1. $EC=C,常数的期望等于常数本身$
2. $E(X+C)=EX+C$
3. $E(CX)=C\cdot EX$
4. $E(kX+b)=kEX+b$
5. $$\begin{gathered} E(X\pm Y)=EX\pm EY \\ E(\Sigma C_i{X}_i)=\Sigma C_{i}E{X}_i \\ E(\frac{1}{n}\Sigma X_i)=\frac{1}{n}\Sigma E{X}_i \end{gathered}$$
6. $X,Y独立,E(XY)=EX\cdot EY$

例：$X、Y独立$

X	9	10	11
P	0.3	0.5	0.2

Y	6	7
P	0.4	0.6

(1)$EX=9\ast 0.3+10\ast 0.5+11\ast 0.2=9.9$

​ $EY=6\ast 0.4+7\ast 0.6=6.6$

​ $E(X+Y)=EX+EY=16.5$

X+Y	15	16	17	18
P	0.12	0.38	0.38	0.12

​ $E(X+Y)=15\ast 0.12+16\ast 0.38+17\ast 0.38+18\ast 0.12=16.5$

(2)$E(XY)=EX\cdot EY=9.9\ast 6.6$

(3)$E{Y}^2=36\ast 0.4+49\ast 0.6=43.8$

例：

X\Y	1	2	3
0	0.1	0.2	0.3
1	0.2	0.1	0.1

$E(X-Y)=EX-EY=0.4\ast 1-1\ast 0.3+2\ast 0.3+3\ast 0.4=2.1=-1.7$

$E(XY)$

X\Y	1	2	3
0	0.1	0.2	0.3	0.6
1	0.2	0.1	0.1	0.4
	0.3	0.3	0.4

$0.3\ast 0.6\ne 0.1,X、Y不独立$

$E(XY)=1\ast 0.2+2\ast 0.1+3\ast 0.1=0.7$

例：10个骰子，X为点数之和，求EX

$X_i：第i个骰子的点数$

$X_i$	1	2	3	4	5	6
P	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$

$E{X}_i=\frac{1}{6}(1+2+3+4+5+6)=\frac{7}{2}$

$EX=E(X_1+...+X_{10})={\Sigma }_{i=1}^{10}E{X}_i=10\times \frac{7}{2}=35$

例：N件产品，有M件次品，任取n件$n\le M\le N,求次品数的期望$

次品：$1\sim M.X_i=\{\begin{array}{rc}1& 第i件是次品\\ 0& 第i件不是次品\end{array}i=1,2,...,M$

$X:次品总数，X=X_1+X_2+...+X_M$

P { X i = 1 } = n N P\{X_i=1\}=\frac{n}{N} P{Xi​=1}=Nn​

P { X i = 0 } = 1 − n N P\{X_i=0\}=1-\frac{n}{N} P{Xi​=0}=1−Nn​

$E{X}_i=1\ast \frac{n}{N}+0\ast (1-\frac{n}{N})=\frac{n}{N}$

$EX=E{X}_1+E{X}_2+...+E{X}_M=\frac{n}{N}M$

4.1.5条件期望：一个变量已经确定的情况下，另一个变量的期望

（1）离散型

$E(X|Y=y_i)=\Sigma x_{i}P(X=x_i|Y=y_i)$

$E(Y|X=x_i)=\Sigma y_{i}P(Y=y_i|X=x_i)$

X\Y	1	2	3
0	0.1	0.2	0.3
1	0.2	0.1	0.1

Y	1	2	3
$P(Y	X=1)$	0.2/(0.2+0.1+0.1)=0.5	0.1/(0.2+0.1+0.1)=0.25

$E(Y|X=1)=1\ast 0.5+2\ast 0.25+3\ast 0.25=1.75$

（2）连续型

$E(X|Y=y)={\int }_{-\infty }^{+\infty }xf(x|y)dx$

$E(Y|X=x)={\int }_{-\infty }^{+\infty }yf(y|x)dy$

4.2.1方差的定义

$方差：DX=E(X-EX{)}^2,标准差：\sqrt{DX}$

（1）离散型：$DX={\Sigma }_k(x_k-EX{)}^2{P}_k$

（2）连续型：$DX={\int }_{-\infty }^{+\infty }(x-EX{)}^{2}f(x)dx$

$DX=E(X^2)-(EX{)}^2$

例：

X	-2	0	2
P	0.4	0.3	0.3

$EX=-0.2,E{X}^2=2.8,DX=E{X}^2-E(X{)}^2=2.76$

例：

$f(x)=\{\begin{array}{rc}2x& 0<x<1\\ 0& else\end{array}$

$EX={\int }_0^{1}x\cdot 2xdx=\frac{2}{3}$

$E{X}^2={\int }_0^1{x}^2\cdot 2xdx=\frac{1}{2}$

$DX=E{X}^2-E(X{)}^2=\frac{1}{18}$

例：$f(x)=\{\begin{array}{rc}a{x}^2+bx+c& 0<x<1\\ 0& else\end{array},EX=0.5,DX=0.15$

$\because$密度函数从负无穷到正无穷积分等于1

$\therefore {\int }_0^1(a{x}^2+bx+c)dx=1$ ①

$EX={\int }_0^{1}x(a{x}^2+bx+c)dx=0.5$ ②

$DX=E(X^2)-0.25=0.15,E(X^2)=0.4$

$E(X^2)={\int }_0^1{x}^2(a{x}^2+bx+c)dx=0.4$ ③

4.2.2方差的性质

（1）$DC=0,常数的方差等于0$

（2）$D(X+C)=DX$

（3）$D(CX)=C^{2}DX$

（4）$D(kX+b)=k^{2}DX$

（5）$X、Y独立,D(X\pm Y)=DX+DY$

​ $X_1,...,X_n独立,D(X_1+...+X_n)=D(X_1)+...+D(X_n)$

$$\begin{gathered} D(X\pm Y)=E(X\pm Y-E(X\pm Y){)}^2=E(X\pm Y-EX\mp EY{)}^2 \\ =E((X-EX)\pm (Y-EY){)}^2=E[(X-EX{)}^2\pm 2(X-EX)(Y-EY)+(Y-EY{)}^2] \\ =E(X-EX{)}^2+E(Y-EY{)}^2\pm 2E[(X-EX)(Y-EY)] \end{gathered}$$

$$\begin{gathered} E[(X-EX)(Y-EY)]=E(XY-XEY-YEX+EXEY) \\ \because X、Y独立 \\ \therefore E(XY-XEY-YEX+EXEY)=EXEY-EYEX-EXEY+EXEY=0 \\ \therefore D(X\pm Y)=E(X-EX{)}^2+E(Y-EY{)}^2=DX+DY \end{gathered}$$

（6）$DX=0⟺P(X=EX)=1$

方差和期望性质的对比

D(X)方差	E(X)性质
$D(C)=0$	$E(C)=C$
$D(X+C)=D(X)$	$E(X+C)=E(X)+C$
$D(CX)=C^{2}D(X)$	$E(CX)=CE(X)$
$D(kX+b)=k^{2}D(X)$	$E(kX+b)=kE(X)+b$
$D(X)=0⟺P(X=EX)=1$	$E(X\pm Y)=E(X)\pm E(Y)$
$X、Y独立,D(X\pm Y)=D(X)+D(Y)$	$X、Y独立,E(XY)=E(X)\cdot E(Y)$

$$\begin{gathered} 若X^{\ast }=\frac{X-E(X)}{\sqrt{D(X)}},\leftarrow 标准化 \\ 则E(X^{\ast })=0,D(X^{\ast })=1 \end{gathered}$$

$E(X^{\ast })=E(\frac{X-E(X)}{\sqrt{D(X)}})=\frac{1}{\sqrt{D(X)}}E(X-E(X))=\frac{1}{\sqrt{D(X)}}(E(X)-E(X))=0$

$D(X^{\ast })=\frac{1}{D(X)}D(X-E(X))=\frac{D(X)}{D(X)}=1$

$PS:E(X)、D(X)看做常数$

4.3.1 常见离散型的期望与方差

0-1分布：

$P(X=k)=P^k(1-P{)}^{1-k}$

$EX=p$

$q=1-p$

$DX=E(X^2)-(EX{)}^2=p-p^2=p(1-p)=pq$

二项分布：

$P(X=k)=C_n^k{p}^k{q}^{n-k},k=0,1,2,...$

$$\begin{gathered} EX={\Sigma }_{k=0}^{n}k{C}_n^k{p}^k{q}^{n-k}={\Sigma }_{k=0}^{n}k\frac{n!}{k!(n-k)!}{p}^k{q}^{n-k}={\Sigma }_{k=1}^n\frac{n!}{(k-1)!(n-k)!}{p}^k{q}^{n-k} \\ =np{\Sigma }_{k=1}^n\frac{(n-1)!}{(k-1)!(n-k)!}{p}^{k-1}{q}^{n-k} \\ =np{\Sigma }_{k-1=0}^{n-1}{C}_{n-1}^{k-1}{p}^{k-1}{q}^{n-k} \\ =np(p+q{)}^{n-1} \\ =np \end{gathered}$$

$(p+q{)}^n={\Sigma }_{k=0}^n{C}_n^k{p}^k{q}^{n-k}$

$E{X}^2=npq+n^2{p}^2,DX=npq$

$$\begin{gathered} X:二项分布的总次数，X_1,...,X_n，X=X_1+...+X_n \\ EX=E(X_1+...+X_n)=E{X}_1+...+E{X}_n=np \\ DX=D(X_1+...+X_n)=D{X}_1+...+D{X}_n=npq \end{gathered}$$

几何分布:

$P(X=k)=(1-p{)}^{k-1}p,k=1,2,3,...$

${\Sigma }_{k=1}^{\infty }k{x}^{k-1}=({\Sigma }_{k=1}^{\infty }{x}^k{)}^{\prime }=(\frac{x}{1-x}{)}^{\prime }=\frac{1}{(1-x{)}^2}$

$EX={\Sigma }_{k=1}^{\infty }k(1-p{)}^{k-1}p=({\Sigma }_{k=1}^{\infty }k(1-p{)}^{k-1})p=\frac{1}{p^2}p=\frac{1}{p}$

$$\begin{gathered} {\Sigma }_{k=1}^{\infty }{k}^2{x}^{k-1}={\Sigma }_{k=1}^{\infty }k\cdot k{x}^{k-1}=({\Sigma }_{k=1}^{\infty }k\cdot x^k{)}^{\prime }=(x{\Sigma }_{k=1}^{\infty }k{x}^{k-1}{)}^{\prime }=(\frac{x}{(1-x{)}^2}{)}^{\prime } \\ =\frac{1+x}{(1-x{)}^3},|x|<1 \end{gathered}$$

$E{X}^2={\Sigma }_{k=1}^{\infty }{k}^2(1-p{)}^{k-1}p=\frac{2-p}{p^2}$

$DX=\frac{1-p}{p^2}$

泊松分布：

$P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda },k=0,1,2,...$

$$\begin{gathered} EX={\Sigma }_{k=0}^{\infty }k\frac{{\lambda }^k}{k!}{e}^{-\lambda }={\Sigma }_{k=1}^{\infty }\frac{{\lambda }^k}{(k-1)!}{e}^{-\lambda }=\lambda {\Sigma }_{k=1}^{\infty }\frac{{\lambda }^{k-1}}{(k-1)!}{e}^{-\lambda }(令m=k-1) \\ =\lambda {\Sigma }_{m=0}^{\infty }\frac{{\lambda }^m}{m!}{e}^{-\lambda } \\ =\lambda \end{gathered}$$

${\Sigma }_{m=0}^{\infty }\frac{{\lambda }^m}{m!}{e}^{-\lambda }=1$

$$\begin{gathered} E{X}^2={\Sigma }_{k=0}^{\infty }{k}^2\frac{{\lambda }^k}{k!}{e}^{-\lambda } \\ ={\Sigma }_{k=1}^{\infty }k\frac{{\lambda }^k}{(k-1)!}{e}^{-\lambda } \\ ={\Sigma }_{k=1}^{\infty }\frac{(k-1){\lambda }^k}{(k-1)!}{e}^{-\lambda }+{\Sigma }_{k=1}^{\infty }\frac{{\lambda }^k}{(k-1)!}{e}^{-\lambda } \\ ={\Sigma }_{k=1}^{\infty }\frac{(k-1){\lambda }^k}{(k-1)!}{e}^{-\lambda }+\lambda {\Sigma }_{k=1}^{\infty }\frac{{\lambda }^{k-1}}{(k-1)!}{e}^{-\lambda } \\ ={\Sigma }_{k=1}^{\infty }\frac{(k-1){\lambda }^k}{(k-1)!}{e}^{-\lambda }+\lambda \\ ={\Sigma }_{k=2}^{\infty }\frac{{\lambda }^k}{(k-2)!}{e}^{-\lambda }+\lambda \\ ={\lambda }^2{\Sigma }_{k=2}^{\infty }\frac{{\lambda }^{k-2}}{(k-2)!}{e}^{-\lambda }+\lambda \\ ={\lambda }^2+\lambda \end{gathered}$$

$DX=E{X}^2-(EX{)}^2=\lambda$

4.3.2 常见连续型的期望与方差

均匀分布：

$f(x)=\{\begin{array}{rc}\frac{1}{b-a}& x\in [a,b]\\ 0& else\end{array}$

$EX={\int }_a^{b}x\frac{1}{b-a}dx=\frac{a+b}{2}$

$E{X}^2={\int }_a^b{x}^2\frac{1}{b-a}dx=\frac{b^2+ab+a^2}{3}$

$DX=E{X}^2-(EX{)}^2=\frac{(b-a{)}^2}{12}$

指数分布：

$f(x)=\{\begin{array}{rc}\lambda e^{-\lambda x}& x>0\\ 0& else\end{array}$

$EX=-{\int }_0^{+\infty }x{e}^{-\lambda }d(-\lambda x)=-{\int }_0^{+\infty }xd{e}^{-\lambda x}=-x{e}^{-\lambda x}{|}_0^{+\infty }+{\int }_0^{+\infty }{e}^{-\lambda x}dx=\frac{1}{\lambda }$

$E{X}^2={\int }_0^{+\infty }{x}^2\lambda e^{-\lambda x}dx=-{\int }_0^{+\infty }{x}^{2}d{e}^{-\lambda x}=-x^2{e}^{-\lambda x}{|}_0^{+\infty }+2{\int }_0^{+\infty }{e}^{-\lambda x}xdx=\frac{2}{{\lambda }^2}$

$DX=\frac{1}{{\lambda }^2}$

正态分布：

$X\sim N(\mu ,{\sigma }^2)$

$EX=\mu ,DX={\sigma }^2$

$Y=\frac{X-\mu }{\sigma }\sim N(0,1)$

$$\begin{gathered} EY=0,DY=1 \\ EX=E(\sigma Y+\mu )=\sigma EY+\mu =\mu \\ DX=D(\sigma Y+\mu )={\sigma }^{2}DY={\sigma }^2 \end{gathered}$$

分布	定义	EX	DX
0-1	$P(X=k)=P^k(1-P{)}^{1-k}$	$p$	$pq$
二项	$P(X=k)=C_n^k{p}^k{q}^{n-k},k=0,1,2,...$	$np$	$npq$
几何	$P(X=k)=(1-p{)}^{k-1}p,k=1,2,3,...$	$\frac{1}{p}$	$\frac{1-p}{p^2}$
泊松	$P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda },k=0,1,2,...$	$\lambda$	$\lambda$
均匀	$f(x)=\{\begin{array}{rc}\frac{1}{b-a}& x\in [a,b]\\ 0& else\end{array}$	$\frac{a+b}{2}$	$\frac{(b-a{)}^2}{12}$
指数	$f(x)=\{\begin{array}{rc}\lambda e^{-\lambda x}& x>0\\ 0& else\end{array}$	$\frac{1}{\lambda }$	$\frac{1}{{\lambda }^2}$
正态	$X\sim N(\mu ,{\sigma }^2)$	$\mu$	${\sigma }^2$

4.4.1 协方差

$$\begin{gathered} Cov(X,Y)=E((X-EX)(Y-EY)) \\ =E(XY-XEY-YEX+EXEY) \\ =E(XY)-EXEY \end{gathered}$$

$D(X\pm Y)=DX+DY\pm 2Cov(X,Y)$

例：

X\Y	-1	0	1
-1	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$
0	$\frac{1}{8}$	0	$\frac{1}{8}$
1	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$

求协方差并判断是否独立

X\Y	-1	0	1
-1	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{3}{8}$
0	$\frac{1}{8}$	0	$\frac{1}{8}$	$\frac{1}{4}$
1	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{3}{8}$
	$\frac{3}{8}$	$\frac{1}{4}$	$\frac{3}{8}$

X的边缘分布

X	-1	0	1
P	$\frac{3}{8}$	$\frac{1}{4}$	$\frac{3}{8}$

Y的边缘分布

Y	-1	0	1
P	$\frac{3}{8}$	$\frac{1}{4}$	$\frac{3}{8}$

$EX=0,EY=0$

$E(X,Y)=\frac{1}{8}-\frac{1}{8}-\frac{1}{8}+\frac{1}{8}=0$

$Cov(X,Y)=0$

X，Y不独立

例：

$f(x,y)=\{\begin{array}{rc}x+y& 0\le x\le 1,0\le y\le 1\\ 0& else\end{array}$

$f_X(x)={\int }_{-\infty }^{+\infty }f(x,y)dy={\int }_0^1(x+y)dy=x+\frac{1}{2}$

$f_X(x)=\{\begin{array}{rc}x+\frac{1}{2}& 0\le x\le 1\\ 0& else\end{array}$

同理可得，$f_Y(y)=\{\begin{array}{rc}y+\frac{1}{2}& 0\le y\le 1\\ 0& else\end{array}$

$EX={\int }_0^{1}x(x+\frac{1}{2})dx=\frac{7}{12},EY=\frac{7}{12}$

$E(XY)={\int }_0^1{\int }_0^{1}xy(x+y)dxdy=\frac{1}{3}$

$Cov(X,Y)=E(XY)-EXEY=-\frac{1}{144}$

协方差的性质：

1. $$\begin{gathered} Cov(X,Y)=Cov(Y,X) \\ 左=E(XY)-EXEY,右=E(YX)-EYEX,左=右 \end{gathered}$$

2. $$\begin{gathered} Cov(aX,bY)=abCov(X,Y) \\ 左=E(aXbY)-E(aX)E(bY)=abE(XY)-abEXEY=ab(E(XY)-EXEY)=右 \end{gathered}$$

3. $$\begin{gathered} Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y) \\ 左=E[(X_1+X_2)Y]-E(X_1+X_2)EY=E(X_{1}Y)+E(X_{2}Y)-E{X}_{1}EY-E{X}_{2}EY \\ =Cov(X_1,Y)+Cov(X_2,Y) \end{gathered}$$

4. $$\begin{gathered} Cov(C,X)=0, \\ 左=E(CX)-ECEX=CEX-CEX=0 \end{gathered}$$

5. $$\begin{gathered} X,Y独立,Cov(X,Y)=0 \\ \because X,Y独立\therefore E(XY)=EXEY \\ Cov(X,Y)=E(XY)-EXEY=0 \end{gathered}$$

X,Y之间的协方差表示两者之间的关系，但是会受计量单位的影响

$$\begin{gathered} X^{\ast }=\frac{X-EX}{\sqrt{DX}},Y^{\ast }=\frac{Y-EY}{\sqrt{DY}},标准化 \\ Cov(X^{\ast },Y^{\ast })=E(X^{\ast }{Y}^{\ast })-E{X}^{\ast }E{Y}^{\ast }=E[\frac{X-EX}{\sqrt{DX}}\frac{Y-EY}{\sqrt{DY}}]-E(\frac{X-EX}{\sqrt{DX}})E(\frac{Y-EY}{\sqrt{DY}}) \\ =E[\frac{X-EX}{\sqrt{DX}}\frac{Y-EY}{\sqrt{DY}}] \\ =\frac{E((X-EX)(Y-EY))}{\sqrt{DX}\sqrt{DY}} \\ =\frac{Cov(X,Y)}{\sqrt{DX}\sqrt{DY}}=\rho \end{gathered}$$

4.4.2 相关系数,$\rho =\frac{Cov(X,Y)}{\sqrt{DX}\sqrt{DY}}=\frac{E(XY)-EXEY}{\sqrt{DX}\sqrt{DY}}$

$\rho 与Cov(X,Y)同正同负同零，衡量线性关系$

例：$DX=4,DY=9,\rho =0.5,求D(X-Y)$

$Cov(X,Y)=\rho \sqrt{DX}\sqrt{DY}=3$

$D(X-Y)=DX+DY-2Cov(X,Y)=7$

$|\rho |\le 1$

引理：$[E(XY){]}^2\le E{X}^2\cdot E{Y}^2$

证：

$g(t)=E(tX-Y{)}^2=E(t^2{X}^2-2tX+Y^2)=t^{2}E{X}^2-2tE(XY)+Y^2\ge 0$

$$\begin{gathered} \Delta =4[E(XY){]}^2-4E{X}^{2}E{Y}^2 \\ [E(XY){]}^2\le E{X}^{2}E{Y}^2 \end{gathered}$$

${\rho }^2\le 1$

令$$\begin{gathered} X_1=X-EX,Y_1=Y-EY \\ {\rho }^2=\frac{(E[(X-EX)(Y-EY)]{)}^2}{DX\cdot DY}=\frac{[E(X_1{Y}_1){]}^2}{E{X}_1^{2}E{Y}_1^2}\le 1 \end{gathered}$$

定理：$|\rho |=1⟺X与Y是以概率p=1成线性关系，P(Y=aX+b)=1$

$\rho =1$	X,Y完全正相关
$\rho =-1$	X,Y完全负相关
$	\rho
$\rho =0$	X,Y不存在线性关系

X,Y不相关	X,Y独立
线性关系	没有任何关系，包括线性关系，非线性关系
X,Y独立，则X,Y不相关	X,Y不相关，X,Y不一定独立
$$\begin{gathered} \because X,Y独立 \\ \therefore E(XY)=EXEY \\ \rho =\frac{E(XY)-EXEY}{\sqrt{DX}\sqrt{DY}}=0 \\ X,Y不相关 \end{gathered}$$	$$\begin{gathered} X,Y不相关，\rho =0 \\ \therefore E(XY)=EXEY \\ X,Y独立⟺f(x,y)=f_X(x)f_Y(y) \\ 证不出X,Y独立 \end{gathered}$$

二维正态分布的独立和不相关等价，独立就是不相关，不相关就是独立

4.5 中心矩与原点矩

原点矩：$$\begin{gathered} E{X}^k=E(X-0{)}^k,以原点为中心 \\ 期望EX是一阶原点矩 \end{gathered}$$

离散型：$\Sigma x_i^k{P}_i$

连续型：${\int }_{-\infty }^{+\infty }{x}^{k}f(x)dx$

中心矩：$$\begin{gathered} E(X-EX{)}^k,以EX为中心 \\ 一阶中心矩：E(X-EX)=EX-EX=0 \\ 二阶中心矩：E(X-EX{)}^2方差 \end{gathered}$$

离散型：$\Sigma (X_i-EX{)}^k{P}_i$

连续型：${\int }_{-\infty }^{+\infty }(X-EX{)}^{k}f(x)dx$

高于四阶的矩，极少使用