大偏差理论

最新推荐文章于 2021-07-19 00:37:15 发布

L.J.1991

最新推荐文章于 2021-07-19 00:37:15 发布

阅读量3k

点赞数 4

分类专栏： coding theory 文章标签：大偏差理论

本文链接：https://blog.csdn.net/qq_23152205/article/details/102630571

版权

大偏差理论

1.引言

先从一个简单的例子看， $X_1,X_2,...,X_N$ 是长度为 $N$ 的随机变量序列，其中 $X_i$ 独立同分布，且 $X_i\sim N(0,1)$ 。我们令
$S_N=\frac1N\sum\limits_{i=1}^NX_i$
表示样本均值。由于高斯分布随机变量相加仍然是高斯随机变量，故 $S_N$ 是一个分布为 $N(0,\frac1N)$ 随机变量，
$\Pr(|S_N|>\delta)\rightarrow0 \quad(N\rightarrow \infty)$
对于任意 $\delta>0$ ,
$\Pr(\sqrt{n}S_N\in A)\rightarrow\int_{A}\frac1{2\pi}e^{-\frac{x^2}{2}}dx\quad(N\rightarrow \infty)$
对于任意区间 $A$ 。对于非 $N\rightarrow\infty$ 情况，
$\Pr(|S_N|\geq\delta)=1-\int_{-\delta\sqrt{N}}^{+\delta\sqrt{N}}\frac1{2\pi}e^{-\frac{x^2}{2}}dx,$
所以
$\frac1N\log\Pr(|S_N|\geq\delta)=\frac{\log(1-\int_{-\delta\sqrt{N}}^{+\delta\sqrt{N}}\frac1{2\pi}e^{-\frac{x^2}{2}}dx)}{N}。$
令 $N\rightarrow\infty$ 时，使用2次洛必达法则求导，可以得到，
$\lim_{N\rightarrow\infty}\frac1N\log\Pr(|S_N|\geq\delta)\\ =\lim_{N\rightarrow\infty}\frac{-\frac{\delta}{\sqrt{N}}\frac{1}{2\pi}e^{-\frac{\delta^2N}{2}}}{1-\int_{-\delta\sqrt{N}}^{+\delta\sqrt{N}}\frac1{2\pi}e^{-\frac{x^2}{2}}dx} \\=\lim_{N\rightarrow\infty}\frac{\frac{\delta}{2N^{3/2}}\frac{1}{2\pi}e^{-\frac{\delta^2N}{2}}-\frac{\delta}{\sqrt{N}}\frac{1}{2\pi}(-\frac{\delta^2}{2})e^{-\frac{\delta^2N}{2}}}{-\frac{\delta}{\sqrt{N}}\frac{1}{2\pi}e^{-\frac{\delta^2N}{2}}} \\=\lim_{N\rightarrow\infty}\frac{\frac{\delta}{2N^{3/2}}+\frac{\delta^3}{2\sqrt{N}}}{-\frac{\delta}{\sqrt{N}}} \\=-\lim_{N\rightarrow\infty}(\frac{1}{2N}+\frac{\delta^2}{2}) \\=-\frac{\delta^2}2。$

最低0.47元/天解锁文章

L.J.1991

关注

4
点赞
踩
7

收藏

觉得还不错? 一键收藏
0
评论
大偏差理论

大偏差理论先从一个简单的例子看， X1,X2,...,XLX_1,X_2,...,X_LX1,X2,...,XL是长度为LLL的随机变量序列，其中XiX_iXi独立同分布且Xi∼N(0,1)X_i\sim N(0,1)Xi∼N(0,1)。我们令SN=1N∑i=1NLiS_N=\frac1N\sum\limits_{i=1}^NL_iSN=N1i=1∑NLi表示样本均值。由于...
复制链接

扫一扫

专栏目录