切比雪夫不等式与马尔可夫不等式
切比雪夫不等式与马尔可夫不等式为随机变量与其期望值偏离程度提供了数值上的证明,统计学与概率论上著名的大数定律可以基于这两个不等式得到证明。
切比雪夫不等式
切比雪夫不等式将随机变量的分布与其期望和方差关联起来,有以下形式:
P { ∣ X − μ ∣ ≥ ϵ } ≤ σ 2 ϵ 2 ϵ > 0 P\{|X-\mu|\ge\epsilon\}\le\frac{\sigma^2}{\epsilon^2}\\ \epsilon\gt 0 P{
∣X−μ∣≥ϵ}≤ϵ2σ2ϵ>0
这个不等式直观上理解就是随机变量越偏离其期望值的概率越小,关于这个概率的度量可以和其方差联系到一起。关于这个不等式的证明,有以下推导:
P { ∣ X − μ ∣ ≥ ϵ } = ∫ ∣ x − μ ∣ ≥ ϵ f ( x ) d x ≤ ∫ ∣ x − μ ∣ ≥ ϵ ( x − μ ) 2 ϵ 2 f ( x ) d x ≤ 1 ϵ 2 ∫ ( x − μ ) 2 f ( x ) d x = σ 2 ϵ 2 P\{|X-\mu|\ge\epsilon\}=\int_{|x-\mu|\ge\epsilon}f(x)dx\le\int_{|x-\mu|\ge\epsilon}\frac{(x-\mu)^2}{\epsilon^2}f(x)dx\\\le\frac{1}{\epsilon^2}\int (x-\mu)^2f(x)dx=\frac{\sigma^2}{\epsilon^2}