中心极限定理

中心极限定理

独立同分布随机变量$X_i$，存在有限的均值$\mu$和方差${\sigma }^2$，则有下面定理成立：
F n ( x ) = lim ⁡ n → ∞ P { ∑ i = 1 n X i − n μ n σ ≤ x } = 1 2 π ∫ − ∞ x e − t 2 2 d t F_n(x)=\lim_{n\rightarrow\infin}P\{\frac{\sum_{i=1}^nX_i-n\mu}{\sqrt{n}\sigma}\le x\}=\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{x}e^{-\frac{t^2}{2}}dt Fn​(x)=n→∞lim​P{ n ​σ∑i=1n​Xi​−nμ​≤x}=2π ​1​∫−∞x​e−2t2​dt
这个定理说明，将独立同分布随机变量$n$次采样的和作为一个随机变量，关于这个随机变量的概率密度，当$n$越大，越趋近于均值为$n\mu$，方差为$n{\sigma }^2$的正态分布。另一种说法是，将独立同分布随机变量$n$次采样的均值作为一个随机变量，概率密度趋近于均值为$\mu$，方差为$\frac{{\sigma }^2}{n}$的正态分布。这也说明，$n$越大，估算结果置信度越高。关于这个定理的证明，首先定义特征函数：
$$M_x(t)=E(e^{xt})={\int }_{-\infty }^{\infty }f(x)e^{xt}dx$$
特征函数有几个性质：
$$M_x(0)={\int }_{-\infty }^{\infty }f(x)dx=1$$
$$M_x^{{}^{\prime }}(0)={\int }_{-\infty }^{\infty }xf(x)dx=E(x)$$
M x ′ ′ ( 0 ) = ∫ − ∞ ∞ x 2