概率论与数理统计：Ch5:大数定律与中心极限定理

Ch5. 大数定律与中心极限定理

(一) 依概率收敛

设$X_1,X_2,...,X_n$是一个随机变量序列，a是一个常数，若对于任意正数$\epsilon$，有
lim ⁡ n → ∞ P { ∣ X n − a ∣ < ε } = 1 或 lim ⁡ n → ∞ P { ∣ X n − a ∣ ≥ ε } = 0 \lim_{n→∞}P\{|X_n-a|<ε\}=1 \quad 或 \quad \lim_{n→∞}P\{|X_n-a|≥ε\}=0 n→∞lim​P{∣Xn​−a∣<ε}=1或n→∞lim​P{∣Xn​−a∣≥ε}=0
则称随机变量序列 { X n } \{X_n\} {Xn​}依概率收敛于a，记为$X_n\stackrel{P}{\to }a$

解题：
①构造$|X_n-a|<\epsilon$
②求 lim ⁡ n → ∞ P { } = 1 \lim_{n→∞}P\{\}=1 limn→∞​P{}=1

(二) 大数定律

1.伯努利大数定律

频率依概率收敛于概率，即 $\frac{{\mu }_n}{n}\stackrel{P}{\to }p$

2.切比雪夫大数定律

条件：①独立 ②方差存在且一致有上界：$D(X_n)\le C$
结论： $\overline{X}\stackrel{P}{\to }E\overline{X}$

3.辛钦大数定律

条件：①独立同分布 (来自总体的简单随机样本) ②期望存在
结论： $\overline{X}\stackrel{P}{\to }E(\overline{X})$

推论：
设随机变量序列X₁,X₂,…,X_n,…相互独立，服从同一分布，且具有k阶矩：$E(X_i^k)={\mu }_k$，i=1,2,…,k=1,2,…,则对于任意正数ε，有 $\underset{n\to +\infty }{\lim }P$ { $|\frac{1}{n}\sum _{i=1}^n{X}_i^k-{\mu }_k|<\epsilon$ } = 1

---

例题1：14年23(3)   辛钦大数定律

分析：(3)的补集即为辛钦大数定律 (或依概率收敛)

答案：
(3)∵随机变量序列X₁,X₂,…,X_n相互独立，与总体X服从同一分布，且具有2阶矩 $E(X_i^2)=E(X^2)=\theta$ (i=1,2,…)
∴由辛钦大数定律，对 任意ε>0，有 $\underset{n\to +\infty }{\lim }P$ { $|\frac{1}{n}\sum _{i=1}^n{X}_i^2-\theta |<\epsilon$ } = 1。
即存在实数$a=\theta$，使得对于任意ε>0，均有$\underset{n\to +\infty }{\lim }P$ { $|\hat{\theta }-a|\ge \epsilon$ } = 0

例题2：  切比雪夫大数定律

分析：

答案：D

例题3：

分析：
辛钦大数定律条件：①独立 ②同分布 ③期望存在

答案：C

---

(三) 中心极限定理

1.列维-林德伯格 中心极限定理 （独立同分布，不指定具体分布，近似服从于标准正态分布）

X₁,X₂,…,X_n 独立同分布，期望和方差存在，E(X_i)=μ，D(X_i)=σ²＞0，则在n充分大时，近似服从标准正态分布Φ(X)
∑ i = 1 n X i ∼ 近似 N ( n μ , n σ 2 ) ∑ i = 1 n X i − n μ n σ 2 ∼ 近似 N ( 0 , 1 ) lim ⁡ n → ∞ P { ∑ i = 1 n X i − n μ n σ 2 ≤ x } = Φ ( x ) \sum\limits_{i=1}^nX_i\sim^{近似}N(nμ,nσ^2)\\[5mm] \dfrac{\sum\limits_{i=1}^nX_i-nμ}{\sqrt{nσ^2}}\sim^{近似}N(0,1)\\[7mm] \lim\limits_{n→∞}P\{\dfrac{\sum\limits_{i=1}^nX_i-nμ}{\sqrt{nσ^2}}≤x\}=Φ(x) i=1∑n​Xi​∼近似N(nμ,nσ2)nσ2 ​i=1∑n​Xi​−nμ​∼近似N(0,1)n→∞lim​P{nσ2 ​i=1∑n​Xi​−nμ​≤x}=Φ(x)

---

例题1：20年8.

分析：先求E(X)、D(X)，然后对和标准化

$E(X)=0\times \frac{1}{2}+1\times \frac{1}{2}=\frac{1}{2}$
$E(X^2)=0^2\times \frac{1}{2}+1^2\times \frac{1}{2}=\frac{1}{2}$
$D(X)=E(X^2)-E^2(X)=\frac{1}{2}-\frac{1}{4}=\frac{1}{4}$
$\therefore \sum _{i=1}^{100}{X}_i{\sim }^{近似}N(50,25)$
$\frac{\sum _{i=1}^n{X}_i-50}{5}{\sim }^{近似}N(0,1)$
P { ∑ i = 1 100 X i − 50 5 ≤ 55 − 50 5 = 1 } = Φ ( 1 ) P\{\dfrac{\sum\limits_{i=1}^{100}X_i-50}{5}≤\dfrac{55-50}{5}=1\}=Φ(1) P{5i=1∑100​Xi​−50​≤555−50​=1}=Φ(1)

答案：B

---

2.德莫弗-拉普拉斯 中心极限定理 （二项分布）