宋浩概率论与数理统计-第五章-笔记

第五章

5.1 大数定律

5.1.1 切比雪夫不等式

定理：若$E(X)$，$D(X)$存在，$\forall ϵ>0$，$P(|X-E(X)|\ge ϵ)\le \frac{D(X)}{{ϵ}^2}$
（变形：）$P(|X-E(X)|\ge ϵ)\ge 1-\frac{D(X)}{{ϵ}^2}$

例
【例1】白细胞平均：7300，标准差：700，求白细胞数在5200~9400的概率

解：
$E(X)=7300,D(X)=490000$
$9400-7300=7300-5200=2100$
故$ϵ=2100$
$P(|X-7300|\le 2100)\ge 1-\frac{490000}{2100^2}$

【例2】$E(X)=\mu ,D(X)={\sigma }^2>0$，求$P(|X-\mu |\ge 3\sigma )$

解：
$P(|X-\mu |\ge 3\sigma )\le \frac{D(X)}{(3\sigma {)}^2}=\frac{{\sigma }^2}{9{\sigma }^2}=\frac{1}{9}$

5.1.2 切比雪夫大数定律

收敛：
$a_n\to a$：$\forall ϵ>0,\exists N>0,n>N$时，$|a_n-a|<ϵ$

依概率收敛：
$x_n\stackrel{P}{\to }a$：$\forall ϵ>0,\exists N>0,n>N$时，$\underset{n\to \infty }{\lim }P(|x_n-a|<ϵ)=1$

伯努利大数定律：
n重伯努利实验，A发生了$m_n$次，$\underset{n\to \infty }{\lim }P(|\frac{m_n}{n}-p|<ϵ)=1$
（变形：）$\underset{n\to \infty }{\lim }P(|\frac{m_n}{n}-p|\ge ϵ)=0$

即：频率收敛于概率

设$x_1,x_2,\cdots ,x_n$独立同分布，$x_i=\{\begin{array}{ll}1& 发生\\ 0& 不发生\end{array}$，
则$E(X_i)=p,D(X_i)=p(1-p),m_n=\sum _{i=1}^n{x}_i$，

$\frac{m_n}{n}=\frac{1}{n}\sum _{i=1}^n{x}_i,p=E(\frac{1}{n}\sum x_i)=\frac{1}{n}\sum _{i=1}^{n}E(X_i)$，

$\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\frac{1}{n}\sum _{i=1}^{n}E(X_i)|<ϵ)=1$

切比雪夫大数定律：$x_1,x_2,\cdots ,x_n$是两两不相关的变量，$E(X_i)$和$D(X_i)$都存在，方差有界，$D(X_i)\le M$，$\forall ϵ>0,\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\frac{1}{n}\sum _{i=1}^{n}E(X_i)|<ϵ)=1$

即：变量的均值收敛于期望的均值

推论：$x_1,x_2,\cdots ,x_n$独立同分布，$E(X_i)=\mu ,D(X_i)={\sigma }^2,\forall ϵ>0,\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\mu |<ϵ)=1$

辛钦大数定律：$x_1,x_2,\cdots ,x_n$独立同分布，$E(X_i)=\mu$，方差无要求，$\forall ϵ>0,\underset{n\to \infty }{\lim }P(|\frac{1}{n}\sum _{i=1}^n{x}_i-\mu |<ϵ)=1$

即：平均数收敛于期望

5.2 中心极限定理

现象由大量相互独立的因素影响
大量独立同分布的变量和的极限分布是正态分布

定理：$X_1,X_2,\cdots ,x_n$独立同分布，$E(X_i)=\mu ,D(X_i)={\sigma }^2,0<{\sigma }^2<+\infty$，则$$\underset{n\to \infty }{\lim }P(\frac{\sum _{i=1}^n{x}_i-n\mu }{\sqrt{n}\sigma }\le x)={\Phi }_0(x)$$

设$Y=\sum _{i=1}^n{x}_i$，则$E(Y)=n\mu ,D(Y)=n{\sigma }^2$

$\frac{\sum _{i=1}^n{x}_i-n\mu }{\sqrt{n}\sigma }$可按照$N(0,1)$近似，$\sum _{i=1}^n{x}_i$按照$N(n\mu ,n{\sigma }^2)$计算

例
【例1】顾客100人，在$[0,60]$均匀分布，独立，日销售额超过3500元的概率

解：
设$X_i$为第$i$人的消费，$E(X_i)=30,D(X_i)=60^2÷12=300$
根据中心极限定理，$\frac{\sum x_i-3000}{100\sqrt{3}}\stackrel{近似}{\sim }N(0,1)$

$P(\sum _{i=1}^{100}{x}_i>3500)=1-P(\sum x_i\le 3500)=1-P(\frac{\sum x_i-3000}{100\sqrt{3}}\le \frac{3500-3000}{100\sqrt{3}})=1-{\Phi }_0(2.887)$

【例2】某人射击环数的分布律为：
$\begin{array}{cccc}X& 10& 9& 8\\ P& 0.5& 0.3& 0.2\end{array}$
求100次射击总环数为915~945的概率

解：
设$X_i$为第$i$次射击环数
$E(X)=9.3,D(X)=0.61$
$\frac{\sum x_i-930}{\sqrt{61}}\stackrel{近似}{\sim }N(0,1)$

$P(915\le \sum x_i\le 945)=P(\frac{915-930}{\sqrt{61}}\le \frac{\sum x_i-930}{\sqrt{61}}\le \frac{945-930}{\sqrt{61}})=P(-1.92\le \frac{\sum x_i-930}{\sqrt{61}}\le 1.92)=2{\Phi }_0(1.92)-1$

棣莫弗-拉普拉斯定理：$Y_n$是参数为n,p的二项分布，则$$\underset{n\to \infty }{\lim }P(\frac{Y_n-np}{\sqrt{np(1-p)}}\le x)={\Phi }_0(x)$$

例
【例3】保险中每人死亡概率0.005，有10000人参加，求死亡人数超过70人的概率

解：设$X$表示死亡人数

• 二项分布法：
  $P(X\le 70)\sum _{k=0}^{70}{C}_{10000}^{k}0.005^{k}0.995^{10000-k}$
• 正态分布法：
  $P(X\le 70)=P(\frac{X-np}{\sqrt{np(1-p)}}\le \frac{70-np}{\sqrt{np(1-p)}})={\Phi }_0(2.84)$

（变形：）$P(X=k)=P(k-\frac{1}{2}<X<k+\frac{1}{2})=P(\frac{k-\frac{1}{2}-np}{\sqrt{np(1-p)}}<\frac{X-np}{\sqrt{np(1-p)}}<\frac{k+\frac{1}{2}-np}{\sqrt{np(1-p)}})={\Phi }_0(\frac{k+\frac{1}{2}-np}{\sqrt{np(1-p)}})-{\Phi }_0(\frac{k-\frac{1}{2}-np}{\sqrt{np(1-p)}})$

例
【例4】击中飞机的概率0.01，500发子弹，求恰好3发能击中的概率

解：
$n=500,p=0.01$
$P(X=5)=P(4.5<X<5.5)=P(\frac{4.5-5}{\sqrt{500\times 0.01\times 0.99}}<X<\frac{5.5-5}{\sqrt{500\times 0.01\times 0.99}})=0.178$

二项分布近似：
$n$大， $np$适中——泊松分布
$n$大， $np$大——正态分布