第五章大数定律与中心极限定理
§5.1大数定律
定义1.设Y 1 ,Y 2 ,⋯,Y n ,⋯,为一随机变量序列,a为一个常数,如果对于任意正数ε,都有lim n→∞ P{|Y n −a|<ε}=1,则称{Y n }按概率收敛于a,记作Y n → P a(n→∞).
定理1.(契比雪夫不等式)设E(X)=μ,D(X)=σ 2 ,对于任意整数ε,有P{|X−μ|≥ε}≤σ 2 ε 2 ,或P{|X−μ|<ε}≥1−σ 2 ε 2 .
证:只就连续型进行证明,设X的概率密度为f(x),则有P{|X−μ|≥ε}=∫ |x−μ|≥ε f(x)dx≤∫ +∞ −∞ (x−μ)ε 2 f(x)dx=1ε 2 ∫ +∞ −∞ (x−μ) 2 f(x)dx=σ 2 ε 2
定理2.(契比雪夫大数定律的特例)设X 1 ,X 2 ,⋯,X n ,⋯相互独立,且具有相同的数学期望E(X k )=μ和方差D(X k )=σ 2 (k=1,2,⋯),则对于任意正数ε,lim n→∞ {|1n ∑ k=1 n X k −μ|<ε}=1.
证:令Y n =1n ∑ k=1 n X k ,则有E(Y n )=μ,D(Y n )=σ 2 n ,由定理1有1−σ 2 nε 2 ≤P{|1n ∑ k=1 n X k −μ|<ε}≤1
定理2 ′ .(契比雪夫定理)设X 1 ,X 2 ,⋯,X n ,⋯,相互独立,分别具有数学期望E(X 1 ),E(X 2 ),⋯,E(X n ),⋯,及方差D(X 1 ),D(X 2 ),⋯,D(X n ),⋯,并且方差是一致有上界的,即存在正数M,使得D(X n )≤M,n=1,2,⋯,则对于任意正数ε,恒有lim n→∞ P{|1n ∑ k=1 n X k −1n ∑ k=1 n E(X k )|<ε}=1
定理3.(伯努利定理)设n A 是在n次独立重复试验中事件A发生的次数,P(A)=p,则对任意正数ε,有lim n→∞ P{|n A n −p|<ε}=1
证:n A ∼B(n,p),E(n A )=np,D(n A )=np(1−p)E(n A n )=p,D(n A n )=p(1−p)n 由定理1可得1−p(1−p)n ε 2 ≤P{|n A n −p|<ε}≤1,于是有lim n→∞ P{|n A n −p|<ε}=1
定理4.(辛钦定理)设X 1 ,X 2 ,⋯,X n ,⋯,相互独立,服从同一分布,期望E(X k )=μ存在,则对与任意正数ε,有lim n→∞ P{|1n ∑ k=1 n X k −μ|<ε}=1
证明略.此定理说明,1n ∑ k=1 n X k 按概率收敛于μ=E(X k ).进一步有1n ∑ k=1 n X l k 按照概率收敛于μ l =E(X l k )(l=1,2,⋯).这是参数估计的理论基础.
§5.2中心极限定理
定义2.设X 1 ,X 2 ,⋯,X n ,⋯,的分布函数依次为F 1 (x),F 2 (x),⋯,F n (x),⋯,X的分布函数为F(x).如果对于F(x)的每个连续点x,都有lim n→∞ F n (x)=F(x),则称随机变量序列X 1 ,X 2 ,⋯,X n ,⋯,依分布收敛于X,记为X n ⟶ L X(n→∞)
定理5.(独立同分布中心极限定理)设X 1 ,X 2 ,⋯,X n ,⋯,相互独立,服从同一分布,存在期望E(X k )=μ和方差D(X k )=σ 2 ≠0(k=1,2,⋯,)则Y n =∑ k=1 n X k −nμn √ σ 依分布收敛于标准正态分布N(0,1),即对于Y n 的分布函数F n (x)的连续点x有lim n→∞ F n (x)=∫ x −∞ 12π − − √ e −t 2 2 dt=Φ(x)
此定理说明当n很大时,Y n 近似服从N(0,1),从而可知当n很大时,∑ k=1 n X k =n √ σY n +nμ近似服从N(nμ,nσ 2 )
定理6(德莫佛−拉普拉斯定理)设随机变量Y n ∼B(n,p)(n=1,2,⋯),则对于任意x,有lim n→∞ P{Y n −npnp(1−p) − − − − − − − − √ ≤x}=∫ x −∞ 12π − − √ e −t 2 2 dt
此定理说明,当n很大时,服从二项分布的随机变量经过标准化后,近似服从标准正态分布.
例1.一射击运动员在一次射击当中所得环数X的概率分布如下:
XP 100.5 90.3 80.1 70.05 60.05
问在100次独立射击中所得总环数介于900于930还之间
解:设X k 表示第k次射击所得环数,则X 1 ,X 2 ,⋯,X 100 相互独立,都于X同分布.μ=E(X k )=E(X)=9.15,σ 2 =D(X k )=D(X)=1.23.100次射击所得总环数为∑ k=1 100 X k ,根据定理5可知∑ k=1 100 X k −100×9.15100×1.23 − − − − − − − − √ 近似服从N(0,1),因此所求概率为P{900<∑ k=1 100 X k <930}=P{900−100×9.15100×1.23 − − − − − − − − √ <∑ k=1 100 X k −100×9.15100×1.23 − − − − − − − − √ <930−100×9.15100×1.23 − − − − − − − − √ }=P{−1.35<∑ k=1 100 X k −100×9.15100×1.23 − − − − − − − − √ <1.35}≈Φ(1.35)−Φ(−1.35)=0.8230
例2.设某单位设置一部电话总机,共有200架分机,每架分机有5%的时间要用外线通话,假设每架分机是否使用外线是相互独立的.问总机要配置多少条外线,才能以90%的概率保证分机要使用外线就能有外线可以使用.
解:以X表示200架分机中在同一时刻使用外线的分机数,则X∼B(200,0.05),设所求外线条数为N,由题意N应满足P{X<N}=0.9.于是P{X−200×0.05200×0.05×0.95 − − − − − − − − − − − − − − √ ≤N−200×0.05200×0.05×0.95 − − − − − − − − − − − − − − √ }=0.9即P{X−109.5 − − − √ ≤N−109.5 − − − √ }=0.9,由定理6可知X−200×0.05200×0.05×0.95 − − − − − − − − − − − − − − √ =X−109.5 − − − √ 近似服从N(0,1),因此应有Φ(N−109.5 − − − √ )=0.9查表得N−109.5 − − − √ =1.29,N=13.945,即取N=14.