切比雪夫不等式
设随机变量 X X 具有数学期望,方差 D(X)=σ2 D ( X ) = σ 2 ,对于任意整数 ϵ ϵ ,不等式
成立
这一不等式称为 切比雪夫不等式
大数定理
(I) ( I ) 切比雪夫大数定理
设
X1,X2,⋯
X
1
,
X
2
,
⋯
是相互独立的,服从同一分布的随机变量序列,如果方差
D(Xk)(k≥1)
D
(
X
k
)
(
k
≥
1
)
存在且有一致上界,即存在常数
C
C
,使得对于一切
k≥1
k
≥
1
均成立,则称序列服从大数定理:
(II) ( I I ) 辛钦大数定理
设
X1,X2,⋯
X
1
,
X
2
,
⋯
是相互独立的,服从同一分布的随机变量序列,且具有数学期望
E(Xk)=μ(k=1,2,⋯)
E
(
X
k
)
=
μ
(
k
=
1
,
2
,
⋯
)
.作前
n
n
个变量的算数平均,则对于任意
ϵ>0
ϵ
>
0
,有
辛钦大数定理的另一种描述
设
Y1,Y2,⋯
Y
1
,
Y
2
,
⋯
是一个随机变量序列,
a
a
是一个常数,若对于任意正数有
则称序列 Y1,Y2,⋯,Yn,⋯ Y 1 , Y 2 , ⋯ , Y n , ⋯ 依概率收敛于 a a ,记为:
依概率收敛的序列有以下性质。
设 Xn⟶Pa X n ⟶ P a , Yn⟶Pb Y n ⟶ P b 又设函数 g(x,y) g ( x , y ) 在点 (a,b) ( a , b ) ,则
于是辛钦大数定理可以描述为:
弱大数定理(辛钦大数定理) 设随机变量 X1,X2,⋯,Xn,⋯ X 1 , X 2 , ⋯ , X n , ⋯ 相互独立,服从同一分布且具有数学期望 E(Xk)=μ(k=1,2,⋯) E ( X k ) = μ ( k = 1 , 2 , ⋯ ) ,则序列 X¯¯¯¯=1n∑k=1nXk X ¯ = 1 n ∑ k = 1 n X k ,依照概率收敛于 μ μ ,即 X¯¯¯¯⟶Pμ X ¯ ⟶ P μ
辛钦大数定理的一个 重要推论:
(III) ( I I I ) 伯努利大数定理
设
fA
f
A
是
n
n
次独立重复试验中事件发生的次数,
p
p
是事件在每次试验中发生的概率,则对于任意正数
ϵ>0
ϵ
>
0
有:
或
中心极限定理
(IV) ( I V ) (独立同分布的中心极限定理)
设随机变量
X1,X2,⋯,Xn,⋯
X
1
,
X
2
,
⋯
,
X
n
,
⋯
相互独立,服从同一分布,且具有数学期望和方差:
E(Xk)=μ,D(Xk)=σ2>0(k=1,2,⋯)
E
(
X
k
)
=
μ
,
D
(
X
k
)
=
σ
2
>
0
(
k
=
1
,
2
,
⋯
)
,则随机变量之和
∑k=1nXk
∑
k
=
1
n
X
k
的标准化变量
的分布函数 Fn(x) F n ( x ) 对于任意 x x 满足
标准正态分布
特别当
μ=0,σ=1
μ
=
0
,
σ
=
1
时称变量
X
X
服从标准正态分布,其概率密度和分布函数分别用表示,既有:
(V) ( V ) 二项分布以正态分布为其极限的分布定理
假设随机变量
Yn∼B(n,p)(0<p<1,n≥1)
Y
n
∼
B
(
n
,
p
)
(
0
<
p
<
1
,
n
≥
1
)
,则对于任意实数
x
x
,有
中心极限定理和大数定律的区别
大数定律是说, n n 只要越来越大,我把这个独立同分布的数加起来去除以 n n 得到的这个样本均值(也是一个随机变量)会依概率收敛到真值,但是样本均值的分布是怎样的我们不知道。
中心极限定理是说, n n 只要越来越大,这个数的样本均值会趋近于正态分布,并且这个正态分布以 n n 为均值,为方差。