中心极限定理

独立同分布下的中心极限定理

定理：（林德伯格—莱维中心极限定理） 设 { X n } \{X_n\} {Xn​}是独立同分布的随机变量序列，且$\mathrm{E}(X_i)=u$，$\mathrm{V}\mathrm{a}\mathrm{r}(X_i)={\sigma }^2>0$存在，若记$$Y_n^{\ast }=\frac{X_1+X_2+\cdots +X_n-n\mu }{\sigma \sqrt{n}},$$则对任意实数$y$，有$$\underset{n\to \infty }{\lim }P(Y_n^{\ast }\le y)=\varphi (y)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^y{e}^{-\frac{t^2}{2}}dt$$
证明： 证明 { Y n ∗ } \{Y^{*}_n\} {Yn∗​}的分布函数列收敛于标准正态分布，则证明 { Y n ∗ } \{Y^{*}_n\} {Yn∗​}的特征函数列收敛于标准正态分布的特征函数。为此设$X_n$-$\mu$的特征函数为$\phi (t)$，则$Y_n^{\ast }$的特征函数为$${\phi }_{Y_n^{\ast }}(t)={\left[\phi \left(\frac{t}{\sigma \sqrt{n}}\right)\right]}^n$$又因为$\mathrm{E}(X_n-\mu )=0$，$\mathrm{V}\mathrm{a}\mathrm{r}(X_n-\mu )={\sigma }^2$，所以有$${\phi }^{\prime }(0)=0,{\phi }^{\prime \prime }(0)=-{\sigma }^2$$于是特征函数$\phi (t)$有展开式$$\begin{array}{rl}\phi (t)& =\phi (0)+{\phi }^{\prime }(0)t+{\phi }^{\prime \prime }(0)\frac{t^2}{2}+o(t^2)\\ & =1-\frac{1}{2}{\sigma }^2{t}^2+o(t^2)\end{array}$$从而有$$\underset{n\to \infty }{\lim }{\phi }_{Y_n^{\ast }}(t)=\underset{n\to \infty }{\lim }{\left[1-\frac{t^2}{2n}+o(\frac{t^2}{n})\right]}^n=e^{-t^2/2}$$而$e^{-t^2/2}$正是$N(0,1)$分布的特征函数，定理得证。
 该定理假设 { X n } \{X_n\} {Xn​}独立同分布，方差存在，不管原来的分布是什么，只要$n$充分大，就可以用正态分布去逼近随机变量和的分布。

二项分布的正态近似

定理： （棣莫弗－拉普拉斯中心极限定理）设$n$重伯努利试验中，事件$A$在每次试验中出现的概率为$p(0<p<1)$，记$s_n$为$n$次试验中事件$A$出现的次数，且记$$Y_n^{\ast }=\frac{s_n-np}{\sqrt{npq}}$$则对任意实数$y$，有$$\underset{n\to \infty }{\lim }P(Y_n^{\ast }\le y)=\varphi (y)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^y{e}^{\frac{-t^2}{2}}dt$$
 棣莫弗－拉普拉斯中心极限定理是概率论历史上的第一个中心极限定理，它是专门针对二项分布的，因此称为"二项分布的正态近似"。

林德伯格中心极限定理

定理： 设独立随机变量序列 { X n } \{X_n\} {Xn​}满足林德伯格条件，则对任意的$x$，有$$\underset{n\to \infty }{\lim }P\left(\frac{1}{B}\sum _{i=1}^n(X_i-{\mu }_i)\le x\right)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^x{e}^{-t^2/2}dt$$

李雅普诺夫中心极限定理

定理： 设 { X n } \{X_n\} {Xn​}为独立随机变量序列，若存在$\delta >0$，满足$$\underset{n\to \infty }{\lim }\frac{1}{B_n^{2+\delta }}\sum _{i=1}^n\mathrm{E}(|X_i-{\mu }_i{|}^{2+\delta })=0,$$则对任意的$x$，有$$\underset{n\to \infty }{\lim }P\left(\frac{1}{B_n}\sum _{i=1}^n(X_i-u_i)\le x\right)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^x{e}^{-t^2/2}dt$$