数理统计讲义第二章课后答案12

2.25设$X_1,\cdots ,X_n$为取自$\Gamma$分布族
{ Γ ( α , λ ) , λ > 0 } \{\Gamma(\alpha,\lambda),\lambda>0\} {Γ(α,λ),λ>0}$\alpha$已知,的简单随机样本，试证明$\bar{X}/\alpha$是$g(\lambda )=1/\lambda$的一致最小方差无偏估计。

参考答案：

设$x_1,\cdots ,x_n$是对应$X_1,\cdots ,X_n$的样本值。

总体$$\xi \stackrel{d}{=}\Gamma (\alpha ,\lambda ),\lambda >0$$
有$$E\xi =\frac{\alpha }{\lambda },Var\xi =\frac{\alpha }{\lambda }$$
则$$E\frac{\bar{X}}{\alpha }=\frac{1}{\alpha }E\bar{X}=\frac{1}{\alpha }EX=\frac{1}{\lambda }=g(\lambda )$$
即$\frac{\bar{X}}{\alpha }$是$g(\lambda )=\frac{1}{\lambda }$的无偏估计。
且
$$Var\frac{\bar{X}}{\alpha }=\frac{1}{n{\alpha }^2}VarX=\frac{1}{n\alpha {\lambda }^2}$$

总体$\xi$的密度函数为$$p(\xi ;\lambda )=\frac{{\lambda }^{\alpha }}{\Gamma (\alpha )}{\xi }^{\alpha -1}{e}^{-\lambda \xi }{I}_{(0,\infty )}(\xi )$$
似然函数为
$$L(\lambda )=\{\begin{array}{rl}\frac{{\lambda }^{n\alpha }}{{\Gamma }^n(\alpha )}(\prod _{i=1}^n{x}_i{)}^{\alpha -1}{e}^{-\lambda \sum _{i=1}^n{x}_i}& ,x_i>0\\ 0& ,x_i\le 0\end{array}$$$$(i=1,\cdots ,n)$$

对数似然函数为

$$\begin{array}{rl}& l(\lambda )=\ln L(\lambda )\\ & =n\alpha \ln \lambda -n\ln \Gamma (\alpha )\\ & +(\alpha -1)\sum _{i=1}^n\ln x_i-\lambda \sum _{i=1}^n{x}_i\end{array}$$
则
$$\frac{dl(\lambda )}{d\lambda }=\frac{n\alpha }{\lambda }-\sum _{i=1}^n{x}_i,\frac{d^{2}l(\lambda )}{d{\lambda }^2}=-\frac{n\alpha }{{\lambda }^2}$$

$$I_X(\lambda )=E(-\frac{d^{2}l(\lambda )}{d{\lambda }^2})=\frac{n\alpha }{{\lambda }^2}$$

因为
$$Var\frac{\bar{X}}{\alpha }=\frac{[g^{\prime }(\lambda ){]}^2}{I_X(\lambda )}$$

所以
$\bar{X}/\alpha$作为$g(\lambda )=1/\lambda$的无偏估计其方差达到了$C-R$下界，且$\bar{X}/\alpha$是$g(\lambda )=1/\lambda$的一致最小方差无偏估计。

---

2.26设$X_1,\cdots ,X_n$为取自几何分布 { P θ ( X = i ) = θ ( 1 − θ ) i − 1 , \{P_{\theta}(X=i)= \theta(1-\theta)^{i-1}, {Pθ​(X=i)=θ(1−θ)i−1,$i=1,2,\cdots ,\theta \in (0,1)\}$的简单随机样本。

(1)试证明统计量$T={\sum }_{i\le n}{X}_i$是$\theta$的充分完备统计量，服从Pascal分布：
$$P_{\theta }(T=t)=\left(\begin{array}{c}t-1\\ n-1\end{array}\right){\theta }^n(1-\theta {)}^{t-n},$$$$t=n,n+1,n+2,\cdots .$$

参考答案：

总体$X$的分布律为

$$P_{\theta }(X=x)=\theta (1-\theta {)}^{x-1},x=1,2,\cdots ,$$$$\theta \in (0,1)$$

样本的联合密度为

P ( X 1 = x 1 , X 2 = x 2 , ⋯   , X n = x n ) = θ ( 1 − θ ) x 1 − 1 θ ( 1 − θ ) x 2 − 1 ⋯ θ ( 1 − θ ) x n − 1 = θ n ( 1 − θ ) ∑ i = 1 n x i ( 1 − θ ) n = ( θ 1 − θ ) n exp ⁡ { ∑ i = 1 n x i ln ⁡ ( 1 − θ ) } \begin{array}{rl} & P(X_1=x_1,X_2=x_2,\cdots,X_n=x_n)\\ &=\theta(1-\theta)^{x_1-1}\theta(1-\theta)^{x_2-1}\\&\cdots\theta(1-\theta)^{x_n-1}\\ &=\frac{\theta^n(1-\theta)^{\sum\limits_{i=1}^nx_i}}{(1-\theta)^n}\\ &=(\frac{\theta}{1-\theta})^n\exp\{\sum\limits_{i=1}^nx_i\ln(1-\theta)\} \end{array} ​P(X1​=x1​,X2​=x2​,⋯,Xn​=xn​)=θ(1−θ)x1​−1θ(1−θ)x2​−1⋯θ(1−θ)xn​−1=(1−θ)nθn(1−θ)i=1∑n​xi​​=(1−θθ​)nexp{i=1∑n​xi​ln(1−θ)}​

其中

$$C(\theta )=(\frac{\theta }{1-\theta }{)}^n,h(X_1,\cdots ,X_n)=1,$$$$T(X_1,\cdots ,X_n)=\sum _{i=1}^n{x}_i,b(\theta )=\ln (1-\theta )$$

所以统计量$T=\sum _{i=1}^n{x}_i(i\le n)$是$\theta$的充分完备统计量。

$$\begin{array}{rl}& P_{\theta }(T=t)=P_{\theta }(\sum _{i=1}^n{x}_i)\\ & =CP(X_1=x_1,X_2=x_2,\cdots ,\\ & X_{n-1}=x_{n-1},X_n=t-x_1-\cdots -x_{n-1})\\ & =C\theta (1-\theta {)}^{x_1-1}\theta (1-\theta {)}^{x_2-1}\\ & \cdots \theta (1-\theta {)}^{x_{n-1}-1}\theta (1-\theta {)}^{t-x_1-\cdots -x_{n-1}-1}\\ & =C{\theta }^n(1-\theta {)}^{t-n},\end{array}$$
$C为系数$

系数C为

$$当t=n时,C_n^{t-n}=C_n^0=C_{n-1}^{n-1}$$
$$当t=n+1时,C_n^{t-n}=C_n^1=C_n^{n-1}$$
$$当t=n+2时,C_n^{t-n}+C_n^{t-n-1}=C_n^2+C_n^1=C_{n+1}^{n-1}$$
$$当t=n+3时,C_n^{t-n}+C_2^1{C}_n^{t-n-1}+C_n^{t-n-2}=C_n^3+C_2^1{C}_n^2+C_n^1=C_{n+2}^{n-1}$$
$$当t=n+4时,C_n^{t-n}+C_3^1{C}_n^{t-n-1}+(C_2^0+C_2^1)C_n^{t-n-2}+C_n^{t-n-3}=C_n^4+C_3^1{C}_n^3+(C_2^0+C_2^1)C_n^2+C_n^1=C_{n+3}^{n-1}$$

依此类推，系数为

$$C=C_{t-1}^{n-1}=\left(\begin{array}{c}t-1\\ n-1\end{array}\right)$$

所以，统计量$T={\sum }_{i\le n}{X}_i$服从Pascal分布：

$$P_{\theta }(T=t)=\left(\begin{array}{c}t-1\\ n-1\end{array}\right){\theta }^n(1-\theta {)}^{t-n},$$$$t=n,n+1,n+2,\cdots .$$

设总体$X$的分布密度$f(x;\theta )$为指数型分布族，即样本的联合密度具有如下形式：
∏ i = 1 n f ( x i ; θ ) = C ( θ ) exp ⁡ { ∑ j = 1 m b j ( θ ) T j ( x 1 , ⋯   , x n ) } h ( X 1 , ⋯   , X n ) \begin{array}{rl}&\prod\limits_{i=1}^{n}f(x_i;\theta)\\&=C(\theta)\exp\{\sum\limits_{j=1}^{m}b_j(\theta)T_j(x_1,\cdots,x_n)\}\\& h(X_1,\cdots,X_n)\end{array} ​i=1∏n​f(xi​;θ)=C(θ)exp{j=1∑m​bj​(θ)Tj​(x1​,⋯,xn​)}h(X1​,⋯,Xn​)​
且对于$f(x;\theta )$的支撑 { x : f ( x ; θ ) > 0 } \{x:f(x;\theta)>0\} {x:f(x;θ)>0}不依赖于$\theta$。
其中$\theta =({\theta }_1,\cdots ,{\theta }_m{)}^T,\theta \in \Theta$。
如果$\Theta$中包含有一个$m$维矩形，而且$B=(b_1(\theta ),\cdots ,b_m(\theta ){)}^T$的值域包含一个$m$维开集，则$T=(T_1(X_1,\cdots ,X_n),\cdots ,T_m(X_1,\cdots ,X_n){)}^T$
是参数$\theta =({\theta }_1,\cdots ,{\theta }_m{)}^T$的充分完备统计量。

---

(2)计算$E_{\theta }[T]$，并由此求得${\theta }^{-1}$的一致最小方差无偏估计。

参考答案：

$$\begin{array}{rl}{E}_{\theta }[T]& =\sum _{i=1}^n{E}_{\theta }[X_i]=\sum _{i=1}^{n}i\theta (1-\theta {)}^{i-1}\\ & =\theta [(1-\theta {)}^0+2(1-\theta {)}^1+\\ & 3(1-\theta {)}^2+\cdots +n(1-\theta {)}^{n-1}]\\ & =-\theta [(1-\theta {)}^1+(1-\theta {)}^2\\ & +(1-\theta {)}^3+\cdots +(1-\theta {)}^n{]}^{\prime }\\ & =-\theta (\frac{1-\theta }{\theta }{)}^{\prime }\\ & =\frac{1}{\theta }\end{array}$$

因为统计量$T$是充分完备统计量，且$T$是${\theta }^{-1}$的无偏估计，所以$T$是${\theta }^{-1}$的一致最小方差无偏估计。

---

(3)试证明
$$\psi (X_1)=\{\begin{array}{rl}1& ,X_1=1,\\ 0& ,X_1=2,3,\cdots \end{array}$$

是$\theta$的无偏估计。计算$E_{\theta }[\psi (X_1)|T=t]$，并由此求得$\theta$的一致最小方差无偏估计。

参考答案：

$$\begin{array}{rl}& E[\psi (X_1)]\\ & =1\cdot P(X_1=1)+0\cdot [P(X_1=2)\\ & +P(X_1=3)+\cdots ]\\ & =\theta (1-\theta {)}^{1-1}\\ & =\theta \end{array}$$

所以，

$$\psi (X_1)=\{\begin{array}{rl}1& ,X_1=1,\\ 0& ,X_1=2,3,\cdots \end{array}$$

是$\theta$的无偏估计。

$$\begin{array}{rl}& E_{\theta }[\psi (X_1)|T=t]\\ & =E_{\theta }[\psi (X_1)|\sum _{i=1}^n{X}_i=t]\\ & =1\cdot P(X_1=1|\sum _{i=1}^n{X}_i=t)\\ & +0\cdot [P(X_1=2|\sum _{i=1}^n{X}_i=t)\\ & +P(X_1=3|\sum _{i=1}^n{X}_i=t)+\cdots ]\\ & =\frac{P(X_1=1,\sum _{i=2}^n{X}_i=t-1)}{P(\sum _{i=1}^n{X}_i=t)}\\ & =\frac{\theta C_{t-2}^{n-2}{\theta }^{n-1}(1-\theta {)}^{(t-1)-(n-1)}}{C_{t-1}^{n-1}{\theta }^n(1-\theta {)}^{t-n}}\\ & =\frac{n-1}{t-1}\\ & =\frac{n-1}{\sum _{i=1}^n{X}_i-1}\end{array}$$

由$Lehmann-Scheff\acute{e}$定理，$T$是几何分布族 { P θ ( X = i ) = θ ( 1 − θ ) i − 1 , i = 1 , 2 , ⋯   , \{P_{\theta}(X=i)= \theta(1-\theta)^{i-1},i=1,2,\cdots, {Pθ​(X=i)=θ(1−θ)i−1,i=1,2,⋯,$\theta \in (0,1)\}$参数$\theta$的充分完备统计量，$\psi (X_1)$是$\theta$的方差有限的无偏估计，则$E_{\theta }[\psi (X_1)|T=t]$为$\theta$的唯一的一致最小无偏估计，即$\theta$的一致最小方差无偏估计为$\frac{n-1}{\sum _{i=1}^n{X}_i-1}$。

---

求UMVUE的方法：

(1)若$T$是充分完备统计量，且$h(T)$是$g(\theta)$的无偏估计，所以$h(T)$是$g(\theta)$的一致最小方差无偏估计。

(2)$Lehmann-Scheff\acute{e}$定理，$T$是参数$\theta$的充分完备统计量，$\psi (X_1)$是$g(\theta )$的方差有限的无偏估计，则$E_{\theta }[\psi (X_1)|T]$为$g(\theta )$的唯一的一致最小无偏估计。

(3)若${\hat{g}}^{\ast }$为参数函数$g(\theta )$的无偏估计，且对$g(\theta )$的任一无偏估计$\hat{g}$都成立$$Va{r}_{\theta }[{\hat{g}}^{\ast }]\le Va{r}_{\theta }[\hat{g}],\forall \theta \in \Theta$$则称${\hat{g}}^{\ast }$为参数函数$g(\theta )$的UMVUE。

(4)由C-R不等式知，无偏估计的方差不低于C-R下界，因此，若某个无偏估计的方差达到了C-R下界，则它必是一个UMVUE。

---

如果您在看完以后，无论是题目还是参考解答过程有什么问题，希望不吝指出！如果有更好的解题思路或者好的问题分享，欢迎通过后台发送给我们！