3.1 概率与分布

第三章 概率统计

全文均为手敲，如果发现有误，请于评论区交流讨论留言，作者会及时修改

3.1 概率与分布

1. 事件及其运算

   和事件：$A+B=A\cup B$

   积事件：$AB=A\cap B$

   差事件：$A-B=A\cap \overline{B}$

2. 事件的概率及其运算

   $A$与$B$对立（$B=\overline{A}$）：$P(A+B)=P(A)+P(B)=1,P(AB)=0$

   $A$与$B$互斥（互不相容）：$P(A+B)=P(A)+P(B),P(AB)=0$

   $A$与$B$独立：$P(A)=P(A|B)=P(A|\overline{B}),P(AB)=P(A)P(B)$

3. 概率模型

   古典概型、几何概型：强调概率相等性。

4. 概率的加法公式（容斥原理）

   两个事件：$P(A+B)=P(A)+P(B)-P(AB)$

   三个事件：$P(A+B+C)=P(A)+P(B)+P(C)-P(AB)-P(BC)-P(CA)+P(ABC)$

5. 条件概率

   若事件$B$的概率非零，则在$B$发生的条件下，$A$发生的概率称为条件概率，记作

   $$P(A|B)=\frac{P(AB)}{P(B)}$$

6. 乘法公式

   若$P(B)>0$，则$P(AB)=P(B)P(A|B)$

   若$P(A_1\cdots A_{n-1})>0$，则$P(A_1\cdots A_n)=P(A_1)P(A_2|A_1)\cdots P(A_n|A_1\cdots A_{n-1})$

7. 全概率公式

   若事件$B_1,\cdots ,B_n$是样本空间或全事件集的一组划分，且$P(B_i)>0$，则

   $$P(A)=\sum _{i=1}^{n}P(A{B}_i)=\sum _{i=1}^{n}P(B_i)P(A|B_i)$$

   特别地

   $$P(A)=P(B)P(A|B)+P(\overline{B})P(A|\overline{B})$$

8. 贝叶斯公式

   若事件$B_1,\cdots ,B_n$是样本空间或全事件集的一组划分，且$P(B_i)>0,P(A)>0$，则

   $$P(B_i|A)=\frac{P(A{B}_i)}{P(A)}=\frac{P(B_i)P(A|B_i)}{\sum _{j=1}^{n}P(B_j)P(A|B_j)}$$

   更在意后验概率、关注前提条件的思维模式

9. 随机变量的分布函数

   给定随机变量$X$，对任意实数$x$，定义随机变量$X$的分布函数为：$F(x)=P(X\le x)$

   分布函数的基本性质：

   $(1)$单调不减，$F(x+t)\ge F(x),\forall t>0$

   $(2)$有界，$0\le F(x)\le 1,F(-\infty )=0,F(+\infty )=1$

   $(3)$右连续，$\underset{t\to 0^{+}}{\lim }F(x+t)=F(x)$

   $(4)P(a<x\le b)=F(b)-F(a)$

10. 离散随机变量的分布列（分布律）

    设离散随机变量$X$的可能取值为：$x_1,x_2,\cdots ,x_n,\cdots$，则称$p_i=P(X=x_i),i=1,2,\cdots$为$X$的分布列

    满足非负性$p_i\ge 0$和正则性$\sum p_i=1$（或称为概率的归一化条件）

11. 连续随机变量的概率密度函数

    设随机变量$X$的分布函数为$F(x)$，若存在非负可积函数$p(x)$，使得$F(x)={\int }_{-\infty }^{x}p(x)dx$，则

    称$X$是连续随机变量，称$p(x)$为概率密度函数，简称密度函数。

    满足非负性$p(x)\ge 0$和正则性${\int }_{-\infty }^{+\infty }p(x)dx=1$（或称为概率的归一化条件）

    对于连续随机变量，$P(X=x)=0$，其概率密度函数可以定义为

    $$p(x)=\{\begin{array}{ll}{F}^{\prime }(x),& F在x处可导\\ 0,& F在x处不可导\end{array}$$

    特别地，$F$处的不可导点处的$p(x)$也可以定义为其他有限值，因为不改变$p(x)$的积分值

12. 离散随机变量的数学期望

    设离散随机变量$X$的分布列为$P(X=x_n)=p_n,n=1,2,\cdots$，若级数$\sum _{i=1}^{\infty }{x}_i{p}_i$绝对收敛，则称该级数为$X$的数学期望，记为

    $$E(X)=\sum _{i=1}^{\infty }{x}_i{p}_i$$

13. 连续变量的数学期望

    设连续随机变量$X$的密度函数为$p(x)$，若积分${\int }_{-\infty }^{+\infty }xp(x)dx$绝对收敛，则称该积分为$X$的数学期望，记为

    $$E(X)={\int }_{-\infty }^{+\infty }xp(x)dx$$

14. 随机变量函数的期望

    设$Y=g(X)$是随机变量$X$的函数，若$E(g(X))$存在，则

    $$E(g(X))=\sum _{i=1}^{\infty }g(x_i)P(X=x_i)或者E(g(X))={\int }_{-\infty }^{+\infty }g(x)p(x)dx$$

15. 数学期望的性质

    $$\begin{array}{rl}(1)& E(c)=c\\ (2)& E(aX)=aE(X)\\ (3)& E(g_1(X)+g_2(X))=E(g_1(X))+E(g_2(X))\end{array}$$

    第三条性质意味着——独立性不影响随机变量和的期望展开计算

16. 随机变量的方差

    给定随机变量$X$，若$E(X-E(X){)}^2$存在，则称$E(X-E(X){)}^2$为$X$的方差，记为

    $$Var(X)=D(X)=E(X-E(X){)}^2$$

    方差具有如下性质

    $$\begin{array}{rl}(1)& Var(X)=E(X^2)-[E(X){]}^2\\ (2)& Var(c)=0\\ (3)& Var(aX+b)=a^{2}Var(X)\end{array}$$

17. 随机变量的标准化

    设$Var(X)>0$，令

    $$Y=\frac{X-EX}{\sqrt{Var(X)}}$$

    则有$E(Y)=0,Var(Y)=1$，称$Y$为$X$的标准化。

18. 二项分布

    $n$重伯努利试验中成功的次数记作$X$，则$X$满足分布律：

    $$P(X=k)=\left(\begin{array}{c}n\\ k\end{array}\right)p^k(1-p{)}^{n-k},k=0,1,\cdots ,n$$

    记作$X\sim B(n,p)$，其期望和方差分别为：$E(X)=np,Var(X)=np(1-p)$

19. 泊松分布

    若随机变量$X$的分布律满足：

    $$P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda },k=0,1,2,\cdots$$

    则称$X$服从参数为$\lambda$的泊松分布，记为$X\sim P(\lambda )$，其期望和方差分别为：$E(X)=\lambda ,Var(X)=\lambda$

20. 超几何分布

    $N$个产品中有$M$个不合格品，从中抽取$n$个，不合格品的个数为$X$，则$X$满足分布律：

    $$P(X=k)=\frac{\left(\begin{array}{c}M\\ k\end{array}\right)\left(\begin{array}{c}N-M\\ n-k\end{array}\right)}{\left(\begin{array}{c}N\\ n\end{array}\right)}$$

    记作$X\sim h(n,N,M)$

21. 几何分布

    若随机变量$X$为独立重复伯努利试验中首次成功时的试验次数，则$X$满足分布律：

    $$P(X=k)=(1-p{)}^{k-1}p,k=1,2,\cdots$$

    记作$X\sim Ge(p)$，其期望和方差分别为：$E(X)=1/p,Var(X)=(1-p)/p^2$

    几何分布具有无记忆性，即

    $$P(X>m+n|X>m)=P(X>n)$$

22. 负二项分布

    若随机变量$X$为独立重复伯努利试验中第$r$次成功时的试验次数，则$X$满足分布律：

    $$P(X=k)=\left(\begin{array}{c}k-1\\ r-1\end{array}\right)(1-p{)}^{k-r}{p}^r,k=r,r+1,\cdots$$

    记为$X\sim Nb(r,p)$

    可以表示成$r$个独立同分布几何分布随机变量之和

23. 正态分布

    若随机变量$X$的概率密度函数为

    p ( x ) = 1 2 π σ e x p { − ( x − μ ) 2 2 σ 2 } p(x)=\frac{1}{\sqrt{2\pi}\sigma}exp\{-\frac{(x-\mu)^2}{2\sigma^2}\} p(x)=2π ​σ1​exp{−2σ2(x−μ)2​}

    记作$X\sim N(\mu ,{\sigma }^2)$，其期望和方差分别为：$E(X)=\mu ,Var(X)={\sigma }^2$

24. 标准正态分布

    若$X\sim N(0,1)$，则称$X$服从标准正态分布，其密度函数记为$\phi (x)$，分布函数记为$\Phi (x)$

    标准正态分布函数满足：$\Phi (0)=1/2,\Phi (-x)=1-\Phi (x)$。

    若$P(X\le z_{\alpha })=\Phi (z_{\alpha })=\alpha$，则称$z_{\alpha }$为标准正态分布的$\alpha$分位点

25. 一般正态分布的标准化

    若$X\sim N(\mu ,{\sigma }^2)$，则

    $$\frac{X-\mu }{\sigma }\sim N(0,1),F(x)=\Phi (\frac{x-\mu }{\sigma })$$

26. 均匀分布

    若随机变量的概率密度函数满足

    $$p(x)=\{\begin{array}{ll}1/(b-a),& a<x<b\\ 0,& otherwise\end{array}$$

    则称$X$服从均匀分布，记作$X\sim U(a,b)$

    其期望和方差分别为$E(X)=(a+b)/2,Var(X)=(b-a{)}^2/12$

27. 指数分布

    若随机变量的概率密度函数满足

    $$p(x)=\{\begin{array}{ll}\lambda e^{-\lambda x},& x>0\\ 0,& x\le 0\end{array}$$

    则称$X$服从指数分布，记作$X\sim Exp(\lambda ),\lambda >0$

    其期望和方差分别为：$E(X)=1/\lambda ,Var(X)=1/{\lambda }^2$

28. $\Gamma$分布

    若随机变量的概率密度函数满足

    $$p(x)=\frac{{\lambda }^{\alpha }}{\Gamma (\alpha )}{x}^{\alpha -1}{e}^{-\lambda x},x\ge 0$$

    则称$X$服从$\Gamma$分布，记作$X\sim Ga(\alpha ,\lambda ),\alpha >0,\lambda >0$

    其期望为$E(X)=\alpha /\lambda$

    称$\Gamma (\alpha )={\int }_0^{+\infty }{x}^{\alpha -1}{e}^{-x}dx$为$\Gamma$函数

    一些性质

    $$\begin{array}{rl}& (1)\Gamma (1)=1,\Gamma (\frac{1}{2})=\sqrt{\pi },\Gamma (n+1)=n!\\ & (2)Ga(1,\lambda )=Exp(\lambda ),Ga(\frac{n}{2},\frac{1}{2})={\chi }^2(n)\\ & (3)X\sim Ga(\alpha ,\lambda )\Rightarrow kX\sim Ga(\alpha ,\lambda /k)(k>0)\end{array}$$

29. $Beta$分布

    若随机变量的概率密度函数满足

    $$p(x)=\frac{1}{B(a,b)}{x}^{a-1}(1-x{)}^{b-1},0<x<1$$

    则称$X$服从$Beta$分布，记作$X\sim Be(a,b),a>0,b>0$

    其期望为$E(X)=a/(a+b)$

    称$B(a,b)={\int }_0^1{x}^{a-1}(1-x{)}^{b-1}dx$为$Beta$函数

    一些性质

    $$\begin{array}{rl}(1)& B(a,b)=B(b,a)\\ (2)& B(a,b)=\frac{\Gamma (a)\Gamma (b)}{\Gamma (a+b)}\\ (3)& Be(1,1)=U(0,1)\end{array}$$

30. 离散随机变量函数的分布

    当$X$为离散随机变量时，$Y=g(X)$为离散随机变量

    将$g(x_i)$一一列出，再将相等的值合并即可

31. 连续随机变量函数的分布

    设$X$的概率密度函数为$p_X(x)$，$y=g(x)$是$x$的严格单调函数，且值域为$(a,b)$，则$y=g(x)$存在反函数$x=h(y)$，且$h(y)$连续可导，则$Y=g(X)$的密度函数为

    $$p_Y(y)=\{\begin{array}{ll}{p}_X(h(y))|h^{\prime }(y)|,& a<y<b\\ 0,& otherwise\end{array}$$

32. 正态变量的线性不变性

    设$X\sim N(\mu ,{\sigma }^2),a\ne 0$，则$aX+b\sim N(a\mu +b,a^2{\sigma }^2)$

33. 各种分布随机数的产生

    若随机变量$X$的分布函数为$F_X(x)$，若$F_X(x)$连续且严格单调递增，则$Y=F_X(x)\sim U(0,1)$

34. $k$阶原点矩和中心距

    $k$阶原点矩：${\mu }_k=E(X^k)$

    $k$阶中心矩：$v_k=E[X-E(X){]}^k$

35. 变异系数

    称$C_V=\sqrt{VarX}/E(X)$为$X$的变异系数

36. 偏度系数

    设随机变量$X$的前三阶矩存在，则比值

    $${\beta }_S=\frac{v_3}{v_2^{\frac{3}{2}}}=\frac{E(X-EX{)}^3}{[Var(X){]}^{\frac{3}{2}}}$$

37. 峰度系数

    设随机变量$X$的前四阶矩存在，则比值

    $${\beta }_k=\frac{v_4}{v_2^2}-3=\frac{E(X-EX{)}^4}{[Var(X){]}^2}-3$$

38. 二维随机变量的联合分布

    给定随机变量$X$和$Y$，对任意实数$x$和$y$，称$F(x,y)=P(X\le x,Y\le y)$为$(X,Y)$的联合分布函数

    联合分布函数的性质

    $$\begin{array}{rl}(1)& F(x,y)关于x和y分别单调不减\\ (2)& 0\le F(x,y)\le 1,F(-\infty ,y)=F(x,-\infty )=0,F(+\infty ,+\infty )=1\\ (3)& F(x,y)关于x和y分别右连续\\ (4)& P(a<X\le b,c<Y\le d)=F(b,d)-D(b,c)-F(a,d)+F(a,c)\ge 0\end{array}$$

39. 二维离散随机变量

    若$(X,Y)$的可能取值为可列对，则称$(X,Y)$为二维离散随机变量，其分布列（分布律）为：

    $$p_{ij}=P(X=x_i,Y=y_j)i,j=1,2,\cdots$$

    所有的$p_{ij}$满足非负性和归一化

40. 二维连续随机变量

    设二维随机变量$(X,Y)$的分布函数为$F(x,y)$，若存在非负可积函数$p(x,y)$，使得

    $$F(x,y)={\int }_{-\infty }^x{\int }_{-\infty }^{y}p(u,v)dudv$$

    则称$(X,Y)$为二维连续随机变量，称$p(x,y)$为联合概率密度，满足非负性和归一化

    特别地

    $$P\{(X,Y)\in D\}=\underset{D}{\iint }p(x,y)dxdy$$

41. 边缘分布函数（边际分布函数）

    已知$(X,Y)$的联合分布函数为$F(x,y)$，则

    $X$的（边缘）分布函数为：$F_X(x)=F(x,+\infty )$

    $Y$的（边缘）分布函数为：$F_Y(y)=F(+\infty ,y)$

42. 边缘分布律（边际分布列）

    已知$(X,Y)$的联合分布律为$p_{ij}=P(X=x_i,Y=y_j)$

    $X$的（边缘）分布律为：$p_i=P(X=x_i)=\sum _{j=1}^{\infty }{p}_{ij}=p_{i\cdot }$

    $Y$的（边缘）分布律为：$p_j=P(Y=y_j)=\sum _{i=1}^{\infty }{p}_{ij}=p_{\cdot j}$

43. 边缘密度函数（边际密度函数）

    已知$(X,Y)$的联合密度函数为$p(x,y)$，则

    $X$的（边缘）密度函数为：$p_X(x)={\int }_{-\infty }^{+\infty }p(x,y)dy$

    $Y$的（边缘）密度函数为：$p_Y(y)={\int }_{-\infty }^{+\infty }p(x,y)dx$

44. 随机变量的独立性

    若随机变量$X$和$Y$满足以下之一

    $$\begin{array}{rl}(1)& F(x,y)=F_X(x)F_Y(y)\\ (2)& p_{ij}=p_i{p}_j\\ (3)& p(x,y)=p_X(x)p_Y(y)\end{array}$$

    则称$X$与$Y$是独立的

    $X$与$Y$独立的本质应该回到概率的定义上：对任意实数$a,b,c,d$有

    $$P(a<X<b,c<Y<d)=P(a<X<b)P(c<Y<d)$$

    若$X$与$Y$是独立的，则$g(X)$与$h(Y)$也是独立的

45. 多维随机变量函数的分布

    已知$(X,Y)$的联合分布函数为$F(x,y)$，若$Z=\max (X,Y)$，则

    $$\begin{array}{rl}{F}_Z(z)& =P(\max (X,Y)\le z)\\ & =P(X\le z且Y\le z)\\ & =F(z,z)\end{array}$$

    若$Z=\min (X,Y)$，则

    $$\begin{array}{rl}{F}_Z(z)& =P(\min (X,Y)\le z)\\ & =P(X\le z或Y\le z)\\ & =1-P(X>z,Y>z)\\ & =F(+\infty ,z)+F(z,+\infty )-F(z,z)\end{array}$$

    $Z$的概率密度为$p_Z(z)=F_Z^{\prime }(z)$

46. 连续场合的卷积公式

    设连续随机变量$X$与$Y$独立， 则$Z=X+Y$的密度函数为

    $$\begin{array}{rl}{p}_Z(z)& ={\int }_{-\infty }^{+\infty }{p}_X(x)p_Y(z-x)dx\\ & ={\int }_{-\infty }^{+\infty }{p}_X(z-y)p_Y(y)dy\end{array}$$

47. 离散场合的卷积公式

    设离散随机变量$X$与$Y$独立， 则$Z=X+Y$的分布列为

    $$\begin{array}{rl}P(Z=z_l)& =\sum _{i=1}^{\infty }P(X=x_i)P(Y=z_l-x_i)\\ & =\sum _{j=1}^{\infty }P(X=z_l-y_j)P(Y=y_j)\end{array}$$

48. 二项分布的可加性

    若$X\sim B(n_1,p),Y\sim B(n_2,p)$，且独立，则$Z=X+Y\sim B(n_1+n_2,p)$

49. 泊松分布的可加性

    若$X\sim P({\lambda }_1),Y\sim P({\lambda }_2)$，且独立，则$Z=X+Y\sim P({\lambda }_1+{\lambda }_2)$

50. 正态分布的可加性

    若$X_i\sim N({\mu }_i,{\sigma }_i^2),i=1,2,\cdots ,n$，且$X_i$间相互独立，实数$a_1,\cdots ,a_n$不全为零，则

    $$\sum _{i=1}^n{a}_i{X}_i+b_i\sim N(\sum _{i=1}^n{a}_i{\mu }_i+b_i,\sum _{i=1}^n{a}_i^2{\sigma }_i^2)$$

51. $\Gamma$分布的可加性

    若$X\sim Ga({\alpha }_1,\lambda ),Y\sim Ga({\alpha }_2,\lambda )$，且独立，则$Z=X+Y\sim Ga({\alpha }_1+{\alpha }_2,\lambda )$

52. ${\chi }^2$分布的可加性

    若$X\sim {\chi }^2(n_1),Y\sim {\chi }^2(n_2)$，且独立，则$Z=X+Y\sim {\chi }^2(n_1+n_2)$

53. 多维随机变量的数学期望

    设$(X,Y)$是二维随机变量，$Z=g(X,Y)$，则

    $$\begin{array}{rlr}E(Z)=E[g(X,Y)]& =\sum _i\sum _{j}g(x_i,y_j)p_{ij},& (X,Y)离散\\ 或者& ={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)p(x,y)dxdy,& (X,Y)连续\end{array}$$

    一些性质

    $$\begin{array}{rl}(1)& E(X+Y)=E(X)+E(Y)\\ (2)& 若X与Y独立,则E(XY)=E(X)E(Y)\end{array}$$

54. 方差展开式

    $$\begin{array}{rl}(1)& Var(X\pm Y)=Var(X)+Var(Y)\pm 2E[X-E(X)][Y-E(Y)]\\ (2)& E[X-E(X)][Y-E(Y)]=E(XY)-E(X)E(Y)\\ (3)& 当X与Y独立时,E[X-E(X)][Y-E(Y)]=0\\ (4)& 当X与Y独立时,Var(X\pm Y)=Var(X)+Var(Y)\end{array}$$

55. 协方差与相关系数

    定义$Cov(X,Y)=E[X-E(X)][Y-E(Y)]$为$X$与$Y$的协方差

    一些其他性质

    $$\begin{array}{rl}(1)& Cov(X,Y)=Cov(Y,X)\\ (2)& Cov(X,a)=0\\ (3)& Cov(aX,bY)=abCov(X,Y)\\ (4)& Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)\\ (5)& Cov(X,X)=Var(X)\end{array}$$

    定义以下这个式子为$X$与$Y$的相关系数：

    $$Corr(X,Y)=\frac{Cov(X,Y)}{\sqrt{Var(X)}\sqrt{Var(Y)}}$$

    若$Corr(X,Y)=0$，则称$X$与$Y$不相关

56. 二维正态分布的特征数

    若$(X,Y)\sim N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )$，则

    $$\begin{array}{rl}(1)& X\sim N({\mu }_1,{\sigma }_1^2),Y\sim N({\mu }_2,{\sigma }_2^2)\\ (2)& 参数\rho 为X与Y的相关系数\\ (3)& X,Y独立\iff \rho =0\\ (4)& 不相关与独立等价\end{array}$$

57. 协方差矩阵

    记$\mathbf{X}={\left[\begin{array}{ccc}{X}_1& \cdots & X_n\end{array}\right]}^T$，则$E\mathbf{X}={\left[\begin{array}{ccc}E{X}_1& \cdots & E{X}_n\end{array}\right]}^T$，称

    $$Cov(\mathbf{X})=\left[\begin{array}{ccc}Cov(X_1,X_1)& \cdots & Cov(X_1,X_n)\\ ⋮& \ddots & ⋮\\ Cov(X_n,X_1)& \cdots & Cov(X_n,X_n)\end{array}\right]$$

    为$\mathbf{X}$的协方差矩阵，记为$Cov(\mathbf{X})$，或$\mathbf{\Sigma }$，是一个实对称半正定矩阵。

58. 多元正态分布

    设$n$维随机变量$\mathbf{X}$的协方差矩阵为$\mathbf{\Sigma }=Cov(\mathbf{X})$，数学期望$E\mathbf{X}=\mathbf{\mu }$，若$n$维概率密度为

    p ( x 1 , ⋯   , x n ) = p ( x ) = ( 2 π ) − n 2 ∣ Σ ∣ − 1 2 e x p { − 1 2 ( x − μ ) T Σ − 1 ( x − μ ) } p(x_1,\cdots,x_n)=p(\boldsymbol{x})=(2\pi)^{-\frac n2}|\boldsymbol{\Sigma}|^{-\frac 12}exp\{-\frac 12(\boldsymbol{x}-\boldsymbol{\mu})^T\boldsymbol{\Sigma}^{-1}(\boldsymbol{x}-\boldsymbol{\mu})\} p(x1​,⋯,xn​)=p(x)=(2π)−2n​∣Σ∣−21​exp{−21​(x−μ)TΣ−1(x−μ)}

    则称$\mathbf{X}$满足$n$元正态分布，记作$\mathbf{X}\sim N(\mathbf{\mu },\mathbf{\Sigma })$

59. 相关矩阵

    称$\mathbf{X}$的相关矩阵为

    $$R=\left[\begin{array}{ccc}{\rho }_{11}& \cdots & {\rho }_{1n}\\ ⋮& \ddots & ⋮\\ {\rho }_{n1}& \cdots & {\rho }_{nn}\end{array}\right]$$

60. 条件分布

    条件分布列：$p_{i|j}=P(X=x_i|Y=-y_j)=p_{ij}/p_{\cdot j}$

    条件密度函数：$p(x|y)=p(x,y)/p(y)$

61. 条件分布函数

    $$\begin{array}{rlr}F(x|y)=P(X\le x|Y=y)& =\sum _{x_i\le x}P(X=x_i|Y=y)& X离散\\ 或者& ={\int }_{-\infty }^{x}p(t|y)dt& X连续\end{array}$$

62. 条件数学期望

    $$\begin{array}{rlr}E(X|Y=y)& =\sum _i{x}_{i}P(X=x_i|Y=y)& X离散\\ 或者& ={\int }_{-\infty }^{+\infty }xp(x|y)dx& X连续\end{array}$$

    注意：$E(X|Y=y)$是$y$的函数

63. 重期望公式

    $$E(X)=E(E(X|Y))$$