学习笔记——概率论与数理统计（第五章）

学习来源：https://www.bilibili.com/video/av36206436/

第五章

5.1 大数定律

5.1.1 切比雪夫不等式

$定理：若E(X)，D(X)存在，\forall ϵ>0，P(|X-E(X)|\ge ϵ)\le \frac{D(X)}{{ϵ}^2}$
（变形：）$P(|X-E(X)|\ge ϵ)\ge 1-\frac{D(X)}{{ϵ}^2}$

5.1.2 切比雪夫大数定律

收敛：
$a_n\to a：\forall ϵ>0,\exists N>0,n>N时，|a_n-a|<ϵ$

依概率收敛：
$x_n\stackrel{P}{\to }a：\forall ϵ>0,\exists N>0,n>N时，\underset{n\to \infty }{\lim }P(|x_n-a|<ϵ)=1$

伯努利大数定律：
$n重伯努利实验，A发生了m_n次，\underset{n\to \infty }{\lim }P(|\frac{m_n}{n}-p|<ϵ)=1$
$（变形：）\underset{n\to \infty }{\lim }P(|\frac{m_n}{n}-p|\ge ϵ)=0$

即：频率收敛于概率

$设x_1,x_2,\cdots ,x_n独立同分布，x_i=\{\begin{array}{ll}1& \text{发生}\\ 0& \text{不发生}\end{array}，$
$则E(X_i)=p,D(X_i)=p(1-p),m_n=\sum _{i=1}^n{x}_i,$
$\frac{m_n}{n}=\frac{1}{n}\sum _{i=1}^n{x}_i,p=E(\frac{1}{n}\sum x_i)=\frac{1}{n}\sum _{i=1}^{n}E(X_i),$
$\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\frac{1}{n}\sum _{i=1}^{n}E(X_i)|<ϵ)=1$

$切比雪夫大数定律：x_1,x_2,\cdots ,x_n是两两不相关的变量，E(X_i)和D(X_i)都存在，方差有界，D(X_i)\le M]，\forall ϵ>0,\forall ϵ>0,\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\frac{1}{n}\sum _{i=1}^{n}E(X_i)|<ϵ)=1$

即：变量的均值收敛于期望的均值

$推论：x_1,x_2,\cdots ,x_n独立同分布，E(X_i)=\mu ,D(X_i)={\sigma }^2,\forall ϵ>0,\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\mu |<ϵ)=1$

$辛钦大数定律：x_1,x_2,\cdots ,x_n独立同分布，E(X_i)=\mu ，方差无要求，\forall ϵ>0,\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\mu |<ϵ)=1$

即：平均数收敛于期望

5.2 中心极限定理

现象由大量相互独立的因素影响
大量独立同分布的变量和的极限分布是正态分布

$定理：X_1,X_2,\cdots ,x_n独立同分布，E(X_i)=\mu ,D(X_i)={\sigma }^2,0<{\sigma }^2<+\infty ，则\underset{n\to \infty }{\lim }P(\frac{\sum _{i=1}^n{x}_i-n\mu }{\sqrt{n}\sigma }\le x)={\Phi }_0(x)$
$设Y=\sum _{i=1}^n{x}_i，则E(Y)=n\mu ,D(Y)=n{\sigma }^2$
$\frac{\sum _{i=1}^n{x}_i-n\mu }{\sqrt{n}\sigma }可按照N(0,1)近似，\sum _{i=1}^n{x}_i按照N(n\mu ,n{\sigma }^2)计算$

$棣莫弗-拉普拉斯定理：Y_n是参数为n,p的二项分布，则\underset{n\to \infty }{\lim }P(\frac{Y_n-np}{\sqrt{np(1-p)}}\le x)={\Phi }_0(x)$

二项分布近似：
n 大， n p 适中——泊松分布
n 大， n p 大——正态分布