概率论复习笔记（四）大数定律及中心极限定理

基本概念

大数定律

切比雪夫不等式

设随机变量$X$具有数学期望$E(X)=\mu ,$方差$D(X)={\sigma }^2,$则对于任意正数$\epsilon ,$有下列切比雪夫不等式
P { ∣ X − μ ∣ ≥ ε } ≤ σ 2 ε 2 P\{\mid X-\mu\mid\geq\varepsilon\}\leq {\sigma^2 \over \varepsilon^2} P{∣X−μ∣≥ε}≤ε2σ2​

随机变量序列 { Y n } \{Y_n\} {Yn​}依概率收敛于a

如果存在常数a,使对任意的$\epsilon >0,$有 lim ⁡ n → ∞ P { ∣ Y n − a ∣ < ε } = 1 \lim_{n\to\infty}P\{\mid Y_n-a\mid<\varepsilon\}=1 limn→∞​P{∣Yn​−a∣<ε}=1成立,则称随机变量序列 { Y n } \{Y_n\} {Yn​}依概率收敛于a.

切比雪夫大数定律

如果随机变量序列 { X n } \{X_n\} {Xn​}相互独立,各随机变量的期望和方差都有限,而且方差有公共上界,即$D{X}_i\le l,i=1,2,\cdots ,$其中$l$是与$i$无相关的常数,则对任意的$\epsilon >0$,有
$$\underset{n\to \infty }{\lim }P\mid \frac{1}{n}\sum _{i=1}^n{X}_i-\frac{1}{n}\sum _{i=1}^{n}E{X}_i\mid <\epsilon =1.$$

切比雪夫大数定律的特例:设随机变量$X_1,X_2,\cdots ,X_n,\cdots$独立,且$E(X_i)=\mu ,D(X_i)={\sigma }^2(i=1,2,\cdots )$则对任意$\epsilon >0,$总有
$$\underset{n\to \infty }{\lim }P\mid \frac{1}{n}\sum _{i=1}^n{X}_i-\mu \mid <\epsilon =1.$$

该定律说明:在定律的条件下,当$n$充分大时,$n$个独立随机变量的平均数的离散程度很小.

伯努利大数定律

如果$u_n$是$n$次重复独立试验中事件A发生的次数,$p$是事件A在每次试验中发生的概率,则对任意给定的$\epsilon >0,$有
$$\underset{n\to \infty }{\lim }P\mid \frac{u_n}{n}-p\mid <\epsilon =1.$$
该定律说明:在试验条件不改变的情况下， 将试验重复进行多次， 则随机事件的频率在它发生的概率附近摆动.

辛钦大数定律

如果 { X n } \{X_n\} {Xn​}是相互独立同分布的随机变量序列,其数学期望$E{X}_i=\mu ,i=1,2,\cdots ,$则对任意给定的$\epsilon >0,$有
$$\underset{n\to \infty }{\lim }P\mid \frac{1}{n}\sum _{i=1}^n{X}_i-\mu \mid <\epsilon =1.$$

该定律说明:对独立同分布的随机变量序列， 只要验证数学期望是否存在， 就可判定其是否服从大数定律.

中心极限定理

列维—林德伯格定理(独立同分布的中心极限定理)

设随机变量$X_1,X_2,\cdots ,X_n,\cdots$独立同分布且$E(X_i)=\mu ,D(X_i)={\sigma }^2<+\infty (i=1,2,\cdots ),$则对任意实数$x,$有
$$\underset{n\to \infty }{\lim }P\{\frac{{\sum }_{i=1}^n{X}_i-n\mu }{\sqrt{n}\sigma }\le x\}={\int }_{-\infty }^x\frac{1}{\sqrt{2\pi }}{e}^{-\frac{t^2}{2}}dt=\Phi (x).$$

李雅普诺夫定理

若随机变量序列 { X n } \{X_n\} {Xn​}相互独立,每个随机变量有期望值$E{X}_n={\mu }_n$及方差$D{X}_n={\sigma }_n^2<+\infty ,n=1,2,\cdots ,$

若每个$X_n$对总和${\sum }_{n=1}^m{X}_n$影响不大,记$S_m=({\sum }_{n=1}^m{\sigma }_n^2{)}^{\frac{1}{2}},$则
$$\underset{n\to \infty }{\lim }P\{\frac{1}{S_m}\sum _{n=1}^m(X_n-{\mu }_n)\le x\}=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^x{e}^{-\frac{t^2}{2}}dt=\Phi (x).$$

棣莫弗—拉普拉斯定理（ 二项分布以正态分布为极限分布的中心极限定理)

设随机变量$Y_1,Y_2,\cdots$服从参数为$n,p$的二项分布,则对于任何实数$x,$有
$$\underset{n\to \infty }{\lim }P\{\frac{Y_n-np}{\sqrt{npq}}\le x\}={\int }_{-\infty }^x\frac{1}{\sqrt{2\pi }}{e}^{\frac{t^2}{2}}dt=\Phi (x).$$
其中$q=1—p.$

典型例题

设随机变量的方差为25，则根据切比雪夫不等式，有 P { ∣ X − E X ∣ ≤ 10 } P\{\mid X-EX\mid\leq10\} P{∣X−EX∣≤10}( ).
( A )$\le 0.25$
( B )$\le 0.75$
( C ) $\ge 0.75$
( D )$\ge 0.25$

答案

D

解析

根据切比雪夫不等式 P { ∣ X − E X ∣ ≥ 10 } ≤ 25 1 0 2 = 0.25 P\{\mid X-EX\mid\geq10\}\leq {25 \over 10^2}=0.25 P{∣X−EX∣≥10}≤10225​=0.25