概率论 —— 条件数学期望

条件数学期望

离散型随机变量

二维离散型随机变量 $(X,Y)$，其概率分布为 P { X = x i , Y = y i } = p i j , i , j = 1 , 2 , . . . P\{X=x_i,Y=y_i\}=p_{ij},i,j=1,2,... P{X=xi​,Y=yi​}=pij​,i,j=1,2,...

• 边缘概率分布
  p i ⋅ = P { X = x i } = ∑ j = 1 ∞ p i j p_{i\cdot}=P\{X=x_i\}=\sum_{j=1}^{\infty}p_{ij} pi⋅​=P{X=xi​}=∑j=1∞​pij​
  p ⋅ j = P { Y = y i } = ∑ i = 1 ∞ p i j p_{\cdot j}=P\{Y=y_i\}=\sum_{i=1}^{\infty}p_{ij} p⋅j​=P{Y=yi​}=∑i=1∞​pij​
• 条件概率分布
  P { Y = y j ∣ X = x i } = p i j p i ⋅ P\{Y=y_j|X=x_i\}=\frac{p_{ij}}{p_{i\cdot}} P{Y=yj​∣X=xi​}=pi⋅​pij​​
  P { X = x i ∣ Y = y j } = p i j p ⋅ j P\{X=x_i|Y=y_j\}=\frac{p_{ij}}{p_{\cdot j}} P{X=xi​∣Y=yj​}=p⋅j​pij​​
• 条件数学期望
  $E(Y|X=x_i)={\sum }_{j=1}^{\infty }{y}_j\frac{p_{ij}}{p_{i\cdot }}，i=1,2,...$
  $E(X|Y=y_i)={\sum }_{i=1}^{\infty }{x}_i\frac{p_{ij}}{p_{\cdot j}}，j=1,2,...$

连续型随机变量

二维连续型随机变量 $(X,Y)$，其概率密度为 $f(x,y)$

• 边缘概率分布
  $f_X(x)={\int }_{-\infty }^{+\infty }f(x,y)dy$
  $f_Y(y)={\int }_{-\infty }^{+\infty }f(x,y)dx$
• 条件概率分布
  $f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)}$
  $f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}$
• 条件数学期望
  $E(Y|X=x)={\int }_{-\infty }^{+\infty }y{f}_{Y|X}(y|x)dy$
  $E(X|Y=y)={\int }_{-\infty }^{+\infty }x{f}_{X|Y}(x|y)dx$

性质

• 当$X$与$Y$互相独立，必有$E(X|Y)=E(X),E(Y|X)=E(Y)$
• 全期望公式：$E(X)=E[E(X|Y)]$
• $E[g(Y)X|Y]=g(Y)E(X|Y)$
• $E[g(Y)X]=E[g(Y)\cdot E(X|Y)]$
• $E(C|Y)=C，C$是常数
• $E[g(Y)|Y]=g(Y)$
• $E[(aX+bY)|Z]=aE(X|Z)+bE(Y|Z)$
• $E[X-E(X|Y){]}^2⩽E[X-g(Y){]}^2$