大数定律和中心极限定理（未完成）

最新推荐文章于 2024-03-22 14:54:49 发布

Auzzer

最新推荐文章于 2024-03-22 14:54:49 发布

阅读量474

点赞数

分类专栏：统计学宇宙文章标签：统计学

本文链接：https://blog.csdn.net/Auzzer/article/details/111182220

版权

统计学宇宙专栏收录该内容

4 篇文章 0 订阅

订阅专栏

本文详细介绍了Chebyshev不等式、特征函数和随机变量的两种收敛性——依概率收敛和依分布收敛。通过对大数定律的探讨，包括切比雪夫大数定律、辛钦大数定律和伯努利大数定律，阐述了样本均值在概率上的收敛性。中心极限定理部分，解释了为何在独立同分布的随机变量下，样本均值趋向于正态分布。总结了这两个定理在概率论和统计学中的核心思想，并提到了其在实际应用中的重要性，如蒙特卡洛方法和误差估计。

摘要由CSDN通过智能技术生成

背景：Chebyshev不等式、特征函数和两种收敛性

Chebyshev不等式

问题

当分布服从均匀分布或者正态分布时，我们知道
在这里插入图片描述
但是当我们想大概知道 $P\left\{X \leq a\right \}$ 是多大或者可能多大时，就无法解决了。此时需要Chebyshev不等式。

定义

设 $r . v .$ $X$ 的数学期望与方差都存在，则对任意常数 $\epsilon > 0$ ，有：
$\geq \epsilon) \leq \frac{Var(X)}{\epsilon^2}$

解释

切比雪夫告诉我们：
只要知道随机变量的期望和方差就可以大概计算出这个概率取值范围。
换句话说，在随机变量 $X$ 的分布未知的情况下，只利用 $X$ 的数学期望和方差即可对 $X$ 的概率分布进行估值的方法。
$\textbf{但是注意啊！！！这一定要知道均值和方差的（一阶矩和二阶矩）！！！}$

特征函数

依概率收敛

背景

我们在估计一些总体未知的 $r . v .$ 的数字特征时（就是做参数统计的时候），如果我们能构造（注意啊，是构造）出一个可以收敛于这个真实数字特征的估计量时，那么就代表我们的估计是和总体一致的（ $i . e .$ 一致性）。

定义

设{ ${X_n}$ } 为一随机变量序列， $X$ 为一随机变量，如果对于人的 $\epsilon > 0$ ，有：
$|X_n - X| \geq \epsilon) \rightarrow 0 ( n \rightarrow 0)$
则称序列{ $X_n$ } $\textbf{依概率收敛X}$ ，记作为 $X_n\stackrel{P}\rightarrow X$

含义解释

这个其实是概率派的思想（还有一个派叫贝叶斯派）。概率派相信数字特征（参数）是唯一存在的，所以只要找到合适的随机序列，这个随机序列可以随着 $n$ 的增大不断趋近真实的数字特征，用数学描述这种性质就叫做依概率收敛。说白了就是一种参数统计的方法。（后面在数理统计里基本上都是参数统计方法）

依分布收敛、弱收敛

大数定律

大数定律其实就是证明了：在不同条件下，样本均值 $\bar{X} = \frac{1}{n}\sum^{1}_{n = 1}X_i$ 依概率收敛于总体期望，可以看作是通过样本对总体的一个估计。

切比雪夫大数定律：

前提：两两不相关，方差期望均存在
公式： $\lim _{n \rightarrow \infty} P\left\{\left|\frac{1}{n} \sum_{i=1}^{n} X_{i}-\frac{1}{n} \sum_{i=1}^{n} E\left(X_{i}\right)\right|<\varepsilon\right\}=1$