估计:即是通过已知样本求出未知的整体参数;
一、矩估计
矩的概念
设有自然数k,常数a,随机变量x,则 E(x−a)k 称之为随机变量x基于常数a的k阶矩;当常数a = 0时,则称之为原点矩;
矩估计方法
即通过上述k阶矩的方法估计整体的范围。
例:通过一阶矩与二阶矩估计整体
设总体X服从区间[a,b]的均均分布,a、b未知,
x1、x2...xn
是X的样本值,求a,b;
上述中,欲求两个未知参数,则至少需有两个方程,我们采用一阶原点矩与二阶原点矩来估计a与b;
E(X)=a+b2=x1+x2+...+xnn
E(X2)=D(X)+[E(X)]2=(b−a)212+(b+a)24
=x21+x22+...+x2nn
因为 x1、x2...xn 为已知参数,则联立上述两个公式,可求得a与b;
二、最大似然估计
最大似然估计方法
若总体X的分布律P{X=x}=p(x;
θ
),当样本值为
x1、x2...xn
时的概率为
L(θ)=∏i=1np(xi,θ)
最大似然估计,即是求当 L(θ) 为最大值为, θ 的值;
最大似然估计的求解步聚:
1、求出分布率公式p(x; θ )
2、求出 L(θ)=∏ni=1p(xi,θ)
3、求出 dln(L(θ))dθ=0
注:第3步求解的目的是 L(θ) 的最大值点在极值点上,因需 L(θ) 的导数为0的点;又因为 L(θ) 直接求极值较复杂,而 ln(L(θ)) 不会影响函数的单调性,因此用 ln(L(θ)) 来求 θ
例
设X~b(1,p),
x1、x2...xn
是X的样本值,求参数p的最大似然估计;
1、可知P(X=x) =
px(1−p)1−x
2、求
L(θ)
L(θ)=∏i=1npxi∗(1−p)1−xi
3、求 dln(L(θ))dθ=0
通过该方法则可求出p值;