切比雪夫不等式
切比雪夫不等式可以使人们在随机变量X的分布未知的情况下,对事件
概率作出估计。
定理
设随机变量X具有数学期望
,方差
则对任意正数ε,不等式
或
成立。
注意:应用切比雪夫不等式必须满足E(X)和D(X)存在且有限这一条件。
马尔可夫不等式
尔可夫不等式把概率关联到数学期望,给出了随机变量的累积分布函数一个宽泛但仍有用的界。
设X为一非负随机变量,则P(|x|≥a)≤E(|X|)/a。若用测度领域的术语来表示,马尔可夫不等式可表示为若(X, Σ, μ)是一个测度空间,ƒ为可测的扩展实数的函数,且ε≥0,则
有时上述的不等式会被称为切比雪夫不等式。
伯努利大数定律
设有一随机变量序列,假如它具有形如(1)的性质,则称该随机变量服从大数定律。(又译为“贝努力大数定律”) 伯努利大数定律设μn为n重伯努利实验中事件A发生的次数,p为A在每次实验中发生的概率,则对任意给定的实数ε>0
大数定律有若干个表现形式。这里仅介绍其中常用的两个重要定律: (一)切贝雪夫大数定理 设 x_1, x_2, …, x_n 是一列两两相互独立的随机变量,服从同一分布,且存在有限的数学期望a 和方差σ2,则对任意小的正数 ε,满足公式(见右图) 切贝雪夫大数定理。
: 该定律的含义是:当n很大,服从同一分布的随机变量的算术平均数将依概率接近于这些随机变量的数学期望。 将该定律应用于抽样调查,就会有如下结论:随着样本容量n的增加,样本平均数将接近于总体平均数。从而为统计推断中依据样本平均数估计总体平均数提供了理论依据。 (二)贝努里大数定律 设μ是n次独立试验中事件A发生的次数,且事件A在每次试验中发生的概率为P,则对任意正数ε,有(如图公式): 贝努里大数定律
该定律是切贝雪夫大数定律的特例,其含义是,当n足够大时,事件A出现的频率将几乎接近于其发生的概率,即频率的稳定性。 在抽样调查中,用样本成数去估计总体成数,其理论依据即在于此。
切比雪夫大数定律
切比雪夫大数定律是数学学科概率论里面一个重要的定律。
设随机变量序列
两两不相关,且期望存在
,方差存在且有共同有限上界
,则对
,
。
特别的,若
有相同的期望
,则有
。
将该公式应用于抽样调查,就会有如下结论:随着样本容量n的增加,样本平均数将接近于总体平均数。从而为统计推断中依据样本平均数估计总体平均数提供了理论依据。
特别需要注意的是,切比雪夫大数定理并未要求
同分布,相较于伯努利大数定律和辛钦大数定律更具一般性。
马尔科夫大数定律
马尔可夫大数定律(Markov law of large num-tiers)一种弱大数定律.若随机变量序列{}n}满足马尔可夫条件1_、合,、nzU}k=7;‘)~。,则对任意。>O,皆有lime}}n一Ec}n> I)E} _。这时称传n}服从马尔可夫大数定律.马尔可夫(M2,pKOB } A. A.)认真研究了切比雪夫大数定律,并利用切比雪夫不等式给出了此定律的证明.
拉普拉斯中心极限定理
若
是n次伯努利试验中事件A出现的次数,
,
,则对任意有限区间[a,b]:
(1)当
及
时,一致地有
其中
,称为局部极限定理。
(2)当
时,一致地有
称为积分极限定理。
几种收敛性:
分布函数的弱收敛性:
亦称“弱收敛”,称随机变量列依分布收敛于随机变量X,记作Xn⇒X,如果在X的分布函数 F(x)的每一连续点x上,Xn的分布函数Fn(x)收敛于F(x)。
亦称“随机收敛”。称随机变量列{Xn}依概率收敛于随机变量X, 记作
或
,如果对于任意
,有
。
以概率1收敛
亦称几乎必然收敛。称随机变量列X1,X2,…,Xn,…以概率1收敛于随机变量X,记作
或
,如果
,若随机变量列以概率1收敛,则它必依概率收敛,反之则未必。
均方收敛
即“平均收敛”,概率论中常用的一种收敛性,{ξn,n≥1}是随机变量列,且E|ξn|<+∞,如果E|ξ|<+∞,且E|ξn-ξ|=0.,则称ξn均方收敛到随机变量ξ.均方收敛在随机分析及随机过程中占有重要地位。
设随机变量X1,X2,…Xn,…独立同分布,并且具有有限的数学期望和方差:E(Xi)=μ,D(Xi)=σ20(k=1,2…),则对任意x,分布函数
满足
该定理说明,当n很大时,随机变量
近似地服从标准正态分布N(0,1)。因此,当n很大时,
近似地服从正态分布N(nμ,nσ2).该定理是中心极限定理最简单又最常用的一种形式,在实际工作中,只要n足够大,便可以把独立同分布的随机变量之和当作正态变量。这种方法在数理统计中用得很普遍,当处理大样本时,它是重要工具。