概率论与数理统计 | (9) 大数定律、中心极限定理

目录

1. 依概率收敛、切比雪夫不等式

2. 大数定律

3. 中心极限定理

---

1. 依概率收敛、切比雪夫不等式

之前我们曾提到频率的稳定值记为概率”, 这个“稳定”是何含义?

记为n重贝努里试验中事件A发生的次数, 则 /n为事 件A出现的频率. 若在一次试验中A发生的概率为p. 当试验的次数充分大时, 频率的稳定值为p, 是指：

频率“稳定于”概率应从可能性角度来解释, 即对于任意，只要n充分大，发生的可能性很小，而且随着n增大，越来越小。

这种收敛性称为“依概率收敛”!

• 定义

• 性质

• 切比雪夫不等式定理

证明：

适用范围：对于期望、方差存在的随机变量.范围广

重要性:可以对于随机变量落在期望附近的区域内或外给出一个界的估计.

• 例题

2. 大数定律

上一讲中，提到的“频率的稳定值记为概率”, 意味着：

这个结论可以用“大数定律”来描述。

• 定理1:贝努里大数定律

记为n重贝努里试验中事件A发生的次数，并记事件A在每次试验中发生的概率为p(0<p<1),则对于任意,有：

证明：

记为n重贝努里试验中事件A发生的次数，~B(n,p), 则,根据切比雪夫不等式，对任意：

贝努里大数定律的重要意义：

1）提供了用大量重复独立试验中事件出现频率的极限值来确定概率的理论依据，使得概率的概念才有严格的意义。

2）提供了通过试验来确定事件概率的方法 --- 可以通过做试验确定某事件发生的频率并把它作为相应的概率估计。

例如：想估计某产品的不合格品率p, 可以随机抽取n(n较大)件, 将n件产品的不合格品的比例作为p的估计.

大数定律：

设是一系列随机变量，则在一定条件下，随机变量序列,收敛到,当.

• 定理2：切比雪夫大数定律的推论

前面的定理要求随机变量的方差存在，但当随机变量服从相同分布时，就不需要这一要求。

 

• 定理3:辛钦大数定律

辛钦大数定律的意义：

提供了求随机变量X的数学期望E(X)的近似值的方法:将随机变量X独立重复地观察n次, 记第k次观测值为,则相互独立，且与X具有相同的分布。

那么, 当E(X )存在时, 由辛钦大数定律, 可知当n充分大时, 可将n次的平均作为E(X)的近似。

若目的是寻求X的期望，则这样做可以不必考虑X的分布!如可用浙大300个学生的平均身高作为整个浙大学生的平均身高的近似值!

• 例题

3. 中心极限定理

• 问题的提出

有许多随机变量，它们是由大量的相互独立的随机变量的综合影响所形成的，而其中每个个别的因素作用都很小，这种随机变量往往服从或近似服从正态分布，或者说它的极限分布是正态分布，中心极限定理正是从数学上论证了这一现象，它在长达两个世纪的时期内曾是概率论研究的中心课题.

n个独立同分布的均匀分布的随机变量的和：

• 定理：独立同分布的中心极限定理(CLT):

• 定理：德莫弗-拉普拉斯中心极限定理

记为n重贝努里试验中事件A发生的次数,并记事件A在每次试验中发生的概率为p(0<0<1).则对于充分大的n有近似服从N(np,np(1-p))，即对于二项分布B(n,p)，当n充分大时，可用正态分布来近似。

• 例题