概率导论(极限理论)

前言

讨论的是随机变量序列渐进(在$n\to \infty$时的)性质.为使用有限样本进行统计推断提供了理论基础。
$X_1,X_2,...,X_n$是独立同分布的随机变量序列.均值均为$\mu$,标准差$\sigma$.定义序列$S_n$:
$$S_n=X_1+X_2+...+X_n$$
基本性质:

• $var(S_n)=n{\sigma }^2$,方差是发散的，$S_n$肯定不收敛(收敛时方差为0)。$E(S_n)=n\mu ,S_n$发散。
• 样本均值$M_n=\frac{S_n}{n}$
• $E(M_n)=\mu ,var(M_n)=\frac{var(S_n)}{n^2}=\frac{{\sigma }^2}{n}$,样本均值的期望收敛于随机变量的期望，方差趋于0,说明样本均值趋近于随机变量的期望。(大数定律)
• 构造随机变量序列$Z_n=\frac{S_n-n\mu }{\sigma \sqrt{n}}$,这个式子分子是$S_n$对$E(S_n)$的偏移,绝对偏移是不太好的，所以分母带上了$S_n$的标准差。$E(Z_n)=0,var(Z_n)=1$，这说明$Z_n$既不发散也不收敛。(中心极限定理)

马尔可夫和切比雪夫不等式

这两个不等式的作用是利用均值和方差去分析事件的概率。随机变量的均值和方差易于计算，但分布不知道时有用。

马尔可夫不等式

马尔可夫不等式:随机变量 X ≥ 0 , ∀ a &