从切比雪夫不等式到大数定理

1. 切比雪夫不等式

设随机变量 $X$ 的期望和方差都存在，则对任意常数（任意小） $\epsilon$，有：

$$P\left(|X-EX|\geq \epsilon\right)\leq \frac{DX}{\epsilon^2}$$

或者写作：

$$P\left(|X-EX|\lt \epsilon\right)\geq 1-\frac{DX}{\epsilon^2}$$

在对样本进行统计时：

$$P\left(|X-EX|\geq \epsilon\right)\leq \frac{\sigma^2}{n\epsilon^2}$$

这里的误差（$\epsilon$），也就是 1-置信度；

2. 切比雪夫不等式举例

设随机变量（r.v.） $X$ 和 $Y$ 的数学期望都是 2，方差分别是 1 和 4，而相关系数是 0.5，利用切比雪夫不等式给出概率 $P(|X-Y|\lt 6)$ 的下界估计。

记 $Z=X-Y$，则 $EZ=0$，$DZ=DX+DY-2cov(X,Y)=5-2\rho_{XY}\sqrt {DX}\sqrt{DY}$=3，所以：

$$P(|X-Y|\lt 6)=P(|Z-EZ|\lt 6)\geq 1-\frac{DZ}{6^2}=\frac{11}{12}$$