通俗理解大数定律、中心极限定理

依概率收敛

https://www.zhihu.com/question/19911209/answer/876481176

来源

• 不知道各位在学习概率论之初是不是也有我这样的想法：**在实验次数足够多的情况下，频率就会非常接近概率。**我们也是依此得到了很多事情发生的概率，比如说抛硬币、等等。最典型的诸如蒲丰投针计算圆周率。那么这个式子不就是这样的吗：
• 
• 但依概率收敛告诉你这样是不严谨的。以抛硬币为例，假如说我们实验的次数已经非常大了，那么这个概率的值可能会像下图蓝线一样波动。
• 所以说，随着实验的进行，这个比值也是一直在波动的，它无法与黑线高度地重合
• 而依概率收敛，就好像极限里的[公式] 语言一样，虽然你在动，那我们画条线，你总超不出去了吧——或者说，就算你真的超出了这条线，这也是一个小概率事件，这就是依概率收敛的意思。看图更直观：
• 

数学表达

大数定律

• 大数定理简单来说，指得是某个随机事件在单次试验中可能发生也可能不发生，但在大量重复实验中往往呈现出明显的规律性，即该随机事件发生的频率会向某个常数值收敛，该常数值即为该事件发生的概率。
• 大数定律告诉我们能用频率近似代替概率；能用样本均值近似代替总体均值。

对数学期望的进一步理解

• 数学期望是描述随机变量取值的平均状态的数字特征，这里的平均不是一般的数学平均，它是以概率为权重的加权平均。
• 从统计意义来说，期望就是平均值。

期望类似与矩

切比雪夫大数定律

前提：含义

• 算数平均值依概率收敛于数学期望

例子

• 我们不说抛硬币这么“单一”的事情——我们这次说做实验测重力加速度。测的方法有很多，但最后得出的数据应该都是在 附近徘徊，然后我们处理数据，一拍脑袋就把他们加权（算数平均值）了，然后断言：啊，这就是我们“期望”的重力加速度！可你有没有想过，为什么测出数据的算数平均值就可以接近真实值呢？事实上，当我们中学做物理实验的时候，就已经用到了Chebyshev大数定律而不自知。这种算数平均值依概率收敛为数学期望的理论依据，就是Chebyshev大数定律。总的来说，Chebyshev大数定律的要求比较弱，甚至连同分布也不用。

伯努利大数定理

• 从定义概率的角度，揭示了概率与频率的关系，当N很大的时候，事件A发生的概率等于A发生的频率。

辛钦大数定理

前提

含义

• 算数平均值稳定于数学期望的确切解释

对比切比雪夫

• 一个只要求独立和方差上界、另一个却要求独立同分布和期望存在。

总结

总结来看，大数定理将属于数理统计的平均值和属于概率论的期望联系在了一起。

中心极限定理

https://zhuanlan.zhihu.com/p/25241653

定义

• 中心极限定理指的是给定一个任意分布的总体。我每次从这些总体中随机抽取 n 个抽样，一共抽 m 次。 然后把这 m 组抽样分别求出平均值。 这些平均值的分布接近正态分布。

例子

• 现在我们要统计全国的人的体重，看看我国平均体重是多少。当然，我们把全国所有人的体重都调查一遍是不现实的。所以我们打算一共调查1000组，每组50个人。 然后，我们求出第一组的体重平均值、第二组的体重平均值，一直到最后一组的体重平均值。中心极限定理说：这些平均值是呈现正态分布的。并且，随着组数的增加，效果会越好。 最后，当我们再把1000组算出来的平均值加起来取个平均值，这个平均值会接近全国平均体重。

要点

• 总体本身的分布不要求正态分布
  上面的例子中，人的体重是正态分布的。但如果我们的例子是掷一个骰子（平均分布），最后每组的平均值也会组成一个正态分布。（神奇！）

  任意分布都可以

• 样本每组要足够大，但也不需要太大
  取样本的时候，一般认为，每组大于等于30个，即可让中心极限定理发挥作用。