大数定律及中心极限定理(知识点部分)

1.辛钦大数定理(弱大数定理)

设$X_1,X_2,\dots$是相互独立,服从同一分布的随机变量序列,且具有数学期望$E(X_k)=\mu (k=1,2,\dots ).$作前$n$个变量的算术平均$\frac{1}{n}{\sum }_{k=1}^n{X}_k,$则对于任意$\epsilon >0,$有
l i m n → ∞ P { ∣ 1 n ∑ k = 1 n X k − μ ∣ < ε } = 1 lim_{n\to \infty}P\{|\frac{1}{n}\sum_{k=1}^{n}X_k-\mu|<\varepsilon\}=1 limn→∞​P{∣n1​k=1∑n​Xk​−μ∣<ε}=1
辛钦大数定律又可叙述为
设$X_1,X_2,\dots ,X_n,\dots$相互独立,服从同一分布且具有数学期望$E(X_k)=\mu (k=1,2,\dots ),$则序列$\overline{X}=\frac{1}{n}{\sum }_{k=1}^n{X}_k$依概率收敛于$\mu ,$即
$$\overline{X}\stackrel{P}{⟶}\mu$$

2.伯努利大数定律

设$f_A$是$n$次独立重复试验中事件$A$发生的次数,$p$是事件$A$在每次试验中发生的概率,则对于任意正数$\epsilon >0,$有
l i m n → ∞ P { ∣ f A n − p ∣ < ε } = 1 lim_{n\to \infty}P\{|\frac{f_A}{n}-p|<\varepsilon\}=1 limn→∞​P{∣nfA​​−p∣<ε}=1
或
l i m n → ∞ P { ∣ f A n − p ∣ ≥ ε } = 0 lim_{n\to \infty}P\{|\frac{f_A}{n}-p|\ge \varepsilon\}=0 limn→∞​P{∣nfA​​−p∣≥ε}=0

3.独立同分布的中心极限定理

设随机变量$X_1,X_2,\dots ,X_n,\dots$相互独立,服从同一分布,且具有数学期望和方差$:E(X_k)=\mu ,D(X_k)={\sigma }^2>0(k=1,2,\dots ),$则随机变量之和${\sum }_{k=1}^n{X}_k$的标准化变量
$$Y_n=\frac{{\sum }_{k=1}^n{X}_k-n\mu }{\sqrt{n}\sigma }$$
的分布函数$F_n(x)$对于任意$x$满足
l i m n → ∞ F n ( x ) = l i m n → ∞ P { ∑ k = 1 n X k − n μ n σ ≤ x } = ∫ − ∞ x 1 2 π e − t 2 2 d t = ϕ ( x ) . lim_{n\to \infty}F_n(x)=lim_{n\to \infty}P\{\frac{\sum_{k=1}^{n}X_k-n\mu}{\sqrt{n}\sigma}\leq x\}\\ =\int_{-\infty}^{x}\frac{1}{\sqrt{2 \pi}}e^{-\frac{t^2}{2}}dt=\phi (x). limn→∞​Fn​(x)=limn→∞​P{n ​σ∑k=1n​Xk​−nμ​≤x}=∫−∞x​2π ​1​e−2t2​dt=ϕ(x).

4.李雅普诺夫定理

设随机变量$X_1,X_2,\dots ,X_n,\dots$相互独立且具有数学期望和方差:$$E(X_k)={\mu }_k,D(X_k)={\sigma }_k^2>0,k=1,2,\dots ,$$
记
$$B_n^2=\sum _{k=1}^n{\sigma }_k^2.$$
若存在正数$\delta ,$使得当$n\to \infty$时,
1 B n 2 + δ ∑ k = 1 n E { ∣ X k − μ k ∣ 2 + δ } → 0 \frac{1}{B_n^{2+\delta}}\sum_{k=1}^{n}E\{|X_k-\mu_k|^{2+\delta}\}\to 0 Bn2+δ​1​k=1∑n​E{∣Xk​−μk​∣2+δ}→0
则随机变量之和${\sum }_{k=1}^n{X}_k$的标准化变量
$$Z_n=\frac{{\sum }_{k=1}^n{X}_k-{\sum }_{k=1}^n{\mu }_k}{B_n}$$
的分布函数$F_n(x)$对于任意$x$满足
l i m n → ∞ F n ( x ) = l i m n → ∞ P { ∑ k = 1 n X k − ∑ k = 1 n μ k B n ≤ x } = ∫ − ∞ x 1 2 π e − t 2 2 d t = ϕ ( x ) lim_{n\to\infty}F_n(x)=lim_{n\to\infty}P\{\frac{\sum_{k=1}^{n}X_k-\sum_{k=1}^{n}\mu_k}{B_n}\leq x\}\\ =\int_{-\infty}^{x}\frac{1}{\sqrt{2\pi}}e^{-\frac{t^2}{2}}dt=\phi(x) limn→∞​Fn​(x)=limn→∞​P{Bn​∑k=1n​Xk​−∑k=1n​μk​​≤x}=∫−∞x​2π ​1​e−2t2​dt=ϕ(x)

5棣莫弗—拉普拉斯定理

设随机变量${\eta }_n(n=1,2,\dots )$服从参数为$n,p(0<p<1)$的二项分布,则对于任意$x,$有
l i m n → ∞ P { η n − n p n p ( 1 − p ) ≤ x } = ∫ − ∞ x 1 2 π e − t 2 2 = ϕ ( x ) . lim_{n\to \infty}P\{\frac{\eta_n-np}{\sqrt{np(1-p)}}\leq x\}=\int_{-\infty}^{x}\frac{1}{\sqrt{2\pi}}e^{-\frac{t^2}{2}}=\phi(x). limn→∞​P{np(1−p) ​ηn​−np​≤x}=∫−∞x​2π ​1​e−2t2​=ϕ(x).