均方误差(mean-sqare error)
对估计量 θ ^ \hat{\theta} θ^而言,其均方误差MSE( θ ^ \hat{\theta} θ^)衡量了估计量 θ ^ \hat{\theta} θ^与参数真值 θ \theta θ间的距离,是评价一个估计好坏的最常用标准。 M S E ( θ ^ ) = E { ( θ ^ − θ ) 2 } = v a r ( θ ^ ) + b 2 ( θ ^ ) MSE(\hat{\theta})=E\{(\hat{\theta}-\theta)^2\}\\ =var(\hat{\theta})+b^2(\hat{\theta}) MSE(θ^)=E{(θ^−θ)2}=var(θ^)+b2(θ^)
其中,估计量的方差为:
v
a
r
(
θ
^
)
=
E
{
(
θ
^
−
E
(
θ
^
)
)
2
}
var(\hat{\theta})=E\{(\hat{\theta}-E(\hat{\theta}))^2\}
var(θ^)=E{(θ^−E(θ^))2}
偏倚为:
b
(
θ
^
)
=
E
(
θ
^
)
−
θ
b(\hat{\theta})=E(\hat{\theta})-\theta
b(θ^)=E(θ^)−θ
有偏估计:
b
(
θ
^
)
≠
0
b(\hat{\theta})\neq0
b(θ^)=0
无偏估计:
b
(
θ
^
)
=
0
b(\hat{\theta})=0
b(θ^)=0,此时均方误差即为方差。
注:均方误差的概念用于参数点估计,方差的概念则应用于所有随机变量。