概率论复习笔记（四）大数定律及中心极限定理

最新推荐文章于 2024-10-10 18:34:57 发布

让步如故

最新推荐文章于 2024-10-10 18:34:57 发布

阅读量1.3k

点赞数 3

分类专栏：概率论与数理统计笔记文章标签：概率论

本文链接：https://blog.csdn.net/m0_45381924/article/details/108041792

版权

笔记同时被 2 个专栏收录

8 篇文章 0 订阅

订阅专栏

概率论与数理统计

6 篇文章 10 订阅

订阅专栏

本文深入探讨了概率论中的两大核心定理——大数定律和中心极限定理，包括切比雪夫不等式、伯努利大数定律、辛钦大数定律以及列维—林德伯格定理、李雅普诺夫定理和棣莫弗—拉普拉斯定理。通过具体实例解析，帮助读者理解这些定理的应用。

摘要由CSDN通过智能技术生成

基本概念

大数定律

切比雪夫不等式

设随机变量 $X$ 具有数学期望 $E(X)=\mu,$ 方差 $D(X)=\sigma^2,$ 则对于任意正数 $\varepsilon,$ 有下列切比雪夫不等式
$P\{\mid X-\mu\mid\geq\varepsilon\}\leq {\sigma^2 \over \varepsilon^2}$

随机变量序列 ${Y_n\}$ 依概率收敛于a

如果存在常数a,使对任意的 $\varepsilon>0,$ 有 $\lim_{n\to\infty}P\{\mid Y_n-a\mid<\varepsilon\}=1$ 成立,则称随机变量序列 ${Y_n\}$ 依概率收敛于a.

切比雪夫大数定律

如果随机变量序列 ${X_n\}$ 相互独立,各随机变量的期望和方差都有限,而且方差有公共上界,即 $DX_i\leq l,i=1,2,\cdots,$ 其中 $l$ 是与 $i$ 无相关的常数,则对任意的 $\varepsilon>0$ ,有
$\lim_{n\to\infty}P\mid{1\over n}\sum_{i=1}^{n}X_i-{1\over n}\sum_{i=1}^{n}EX_i\mid<\varepsilon=1.$

切比雪夫大数定律的特例:设随机变量 $X_1,X_2,\cdots,X_n,\cdots$ 独立,且 $E(X_i)=\mu,D(X_i)=\sigma^2(i=1,2,\cdots)$ 则对任意 $\varepsilon>0,$ 总有
$\lim_{n\to\infty}P\mid{1\over n}\sum_{i=1}^{n}X_i-\mu\mid<\varepsilon=1.$

该定律说明:在定律的条件下,当 $n$ 充分大时, $n$ 个独立随机变量的平均数的离散程度很小.

伯努利大数定律

如果 $u_n$ 是 $n$ 次重复独立试验中事件A发生的次数, $p$ 是事件A在每次试验中发生的概率,则对任意给定的 $\varepsilon>0,$ 有
$\lim_{n\to\infty}P\mid{u_n\over n}-p\mid<\varepsilon=1.$
该定律说明:在试验条件不改变的情况下，将试验重复进行多次，则随机事件的频率在它发生的概率附近摆动.

辛钦大数定律

如果 ${X_n\}$ 是相互独立同分布的随机变量序列,其数学期望 $EX_i=\mu,i=1,2,\cdots,$ 则对任意给定的 $\varepsilon>0,$ 有
$\lim_{n\to\infty}P\mid{1\over n}\sum_{i=1}^{n}X_i-\mu\mid<\varepsilon=1.$

该定律说明:对独立同分布的随机变量序列，只要验证数学期望是否存在，就可判定其是否服从大数定律.

中心极限定理

列维—林德伯格定理(独立同分布的中心极限定理)

设随机变量 $X_1,X_2,\cdots,X_n,\cdots$ 独立同分布且 $E(X_i)=\mu,D(X_i)=\sigma^2<+\infty(i=1,2,\cdots),$ 则对任意实数 $x,$ 有
$\lim_{n\to\infty} P\big\lbrace{\sum_{i=1}^{n}X_i-n\mu\over\sqrt{n}\sigma}\leq x\big\rbrace=\int_{-\infty}^{x}{1\over\sqrt{2\pi}}e^{-{t^2\over2}}dt=\Phi(x).$

李雅普诺夫定理

若随机变量序列 ${X_n\}$ 相互独立,每个随机变量有期望值 $EX_n=\mu_n$ 及方差 $DX_n=\sigma_n^2<+\infty,n=1,2,\cdots,$

若每个 $X_n$ 对总和 $\sum^{m}_{n=1}X_n$ 影响不大,记 $S_m=(\sum^{m}_{n=1}\sigma_n^2)^{1\over2},$ 则
$\lim_{n\to\infty} P\big\lbrace{{1\over S_m}\sum_{n=1}^{m}(X_n-\mu_n)}\leq x\big\rbrace={1\over\sqrt{2\pi}}\int_{-\infty}^{x}e^{-{t^2\over2}}dt=\Phi(x).$

棣莫弗—拉普拉斯定理（二项分布以正态分布为极限分布的中心极限定理)

设随机变量 $Y_1,Y_2,\cdots$ 服从参数为 $n, p$ 的二项分布,则对于任何实数 $x,$ 有
$\lim_{n\to\infty} P\big\lbrace{Y_n-np\over\sqrt{npq}}\leq x\big\rbrace=\int_{-\infty}^{x}{1\over\sqrt{2\pi}}e^{{t^2\over2}}dt=\Phi(x).$
其中 $q = 1 — p .$