完备性是统计量的非常重要的性质之一,但完备性的证明有时并不是是一件容易的事情,这一讲介绍一些常用的证明完备性的方法:定义法,完备分布族法,指数分布族法。
假设 T ( X ) T(X) T(X)是基于样本 X = ( X 1 , ⋯ , X n ) X=(X_1,\cdots,X_n) X=(X1,⋯,Xn)的一个统计量,它的分布函数为 F T ( t ) F_T(t) FT(t),概率密度为 f T ( t ) f_T(t) fT(t),总体的分布函数为 F X ( x ) F_X(x) FX(x),总体的概率密度为 f X ( x ) f_X(x) fX(x),假设总体定义在概率空间 ( X , F , P θ ) (\mathcal{X},\mathcal{F},P_{\theta}) (X,F,Pθ)上。总体的分布族的完备性定义是:假设 g ( X ) g(X) g(X)是 ( X , F , P θ ) (\mathcal{X},\mathcal{F},P_{\theta}) (X,F,Pθ)上的任一可测函数,如果
E θ [ g ( X ) ] = 0 ⇔ g ( x ) = 0 a . s . E_{\theta}[g(X)] = 0 \Leftrightarrow g(x) = 0\ a.s. Eθ[g(X)]=0⇔g(x)=0 a.s.
则称总体的分布族是完备的。与之类似,假设 h ( T ) h(T) h(T)是基于 T ( X ) T(X) T(X)与 ( Ω , F , P θ ) (\Omega,\mathcal{F},P_{\theta}) (Ω,F,Pθ)的导出概率空间 ( T , F T , P θ T ) (\mathcal{T},\mathcal{F}^T,P^T_{\theta}) (T,FT,PθT)上的任一可测函数,如果
E θ [ h ( T ) ] = 0 ⇔ h ( t ) = 0 a . s . E_{\theta}[h(T)] = 0 \Leftrightarrow h(t) = 0 \ a.s. Eθ[h(T)]=0⇔h(t)=0 a.s.
则称统计量 T ( X ) T(X) T(X)是完备统计量。基于这个定义验证某个统计量是否是完备统计量的方法叫定义法。
下面进一步考察完备统计量的定义,
E θ [ h ( T ) ] = ∫ T h ( t ) f T ( t ) d t = ∫ X h ( t ( x ) ) f X ( x ) d x E_{\theta}[h(T)] = \int_{\mathcal{T}}h(t)f_T(t)dt = \int_{\mathcal{X}}h(t(x))f_X(x)dx Eθ[h(T)]=∫Th(t)fT(t)dt=∫Xh(t(x))fX(x)dx
如果分布族是完备的,那么 E θ [ h ( T ) ] = 0 ⇔ h ( t ( x ) ) = 0 a . s . ⇔ P θ ( { x ∈ X : h ( t ( x ) ) ≠ 0 } ) = 0 E_{\theta}[h(T)] = 0 \Leftrightarrow h(t(x)) = 0\ a.s. \Leftrightarrow P_{\theta}(\{x \in \mathcal{X}:h(t(x)) \ne 0\}) = 0 Eθ[h(T)]=0⇔h(t(x))=0 a.s.⇔Pθ({ x∈X:h(t(x))=0})=0
根据导出概率的含义计算
P θ T ( { t ∈ T : h ( t ) ≠ 0 } ) = P θ ( T − 1 ( { t ∈ T : h ( t ) ≠ 0 } ) ) ≤ P θ ( { x ∈ X : h ( t ( x ) ) ≠ 0 } ) P_{\theta}^T(\{t \in \mathcal{T}:h(t)\ne 0\}) = P_{\theta}(T^{-1}(\{t \in \mathcal{T}:h(t)\ne 0\})) \le P_{\theta}(\{x \in \mathcal{X}:h(t(x)) \ne 0\}) PθT({
t∈T:h(t)=0})=Pθ(T−1({
t∈T:h(t)=0}))≤Pθ({
x∈X:h(t(x))=0})
因此 P θ ( T − 1 ( { t ∈ T : h ( t ) ≠ 0 } ) ) = 0 P_{\theta}(T^{-1}(\{t \in \mathcal{T}:h(t)\ne 0\}))=0 Pθ(T−1({ t∈T:h(t)=0}))=0。这个推导说明如果分布族 F X F_X FX是完备的,那么统计量 T ( X ) T(X) T(X)就是完备的,但反过来不一定成立。这个推导还可以说明完备统计量的函数页数完备统计量。基于这个思路证明完备统计量的方法叫做完备分布族法。
自然形式的指数分布族有非常完美的性质,假设 f ( x ; θ ) = h ( x ) exp { θ T T ( x ) − b ( θ ) } f(x;\theta) = h(x)\exp\{\theta^T T(x)-b(\theta)\} f(x;θ)=h(x)exp{ θ