切比雪夫大数定律

切比雪夫大数定律

切比雪夫大数定律是指，假设存在$n$个相互独立的随机变量，当$n$趋近于无穷时，这$n$个随机变量的平均值也会趋近于这$n$个随机变量期望的平均值。切比雪夫大数定律相比起一般我们听到的大数定律更一般，不仅能够解释独立同分布随机变量的大数定律，也能够解释独立但不同分布随机变量的大数定律。切比雪夫不等式有以下形式：
lim ⁡ n → ∞ P { ∣ 1 n ∑ i = 1 n X i − 1 n ∑ i = 1 n E ( X i ) ∣ ≥ 0 } = 0 \lim_{n\rightarrow\infin} P\{|\frac{1}{n}\sum_{i=1}^n X_i-\frac{1}{n}\sum_{i=1}^n E(X_i)|\ge 0\}=0 n→∞lim​P{∣n1​i=1∑n​Xi​−n1​i=1∑n​E(Xi​)∣≥0}=0
$$\max D(X_i)=C$$
关于这个式子，首先我们将$n$个随机变量的平均值看作一个新的随机变量，那么关于这个新的随机变量我们可以得到其期望和方差如下：
$$E(\frac{1}{n}\sum _{i=1}^n{X}_i)=\frac{1}{n}\sum _{i=1}^{n}E(X_i)$$
$$D(\frac{1}{n}\sum _{i=1}^n{X}_i)=\frac{1}{n^2}\sum _{i=1}^{n}D(X_i)\le \frac{nC}{n^2}=\frac{C}{n}$$
已知切比雪夫不等式：
P { ∣ X − μ ∣ ≥ ϵ } ≤ σ 2 ϵ 2 P\{|X-\mu|\ge\epsilon\}\le\frac{\sigma^2}{\epsilon^2} P{∣X−μ∣≥ϵ}≤ϵ2σ2​
将这个随机变量及其期望和方差代入切比雪夫不等式得到：
P { ∣ 1 n ∑ i = 1 n X i − 1 n ∑ i = 1 n E ( X i ) ∣ ≥ ϵ } ≤ C n ϵ 2 P\{|\frac{1}{n}\sum_{i=1}^nX_i-\frac{1}{n}\sum_{i=1}^nE(X_i)|\ge\epsilon\}\le\frac{C}{n\epsilon^2} P{∣n1​i=1∑n​Xi​−n1​i=1∑n​E(Xi​)∣≥ϵ}≤nϵ2C​
关于上式，当$n$趋近于正无穷时，右边趋近于0，所以切比雪夫大数定律得证。