数理统计讲义第二章课后答案10

2.22 设总体$\xi$是含未知参数$\theta$的分布，其密度函数为
$$p(x;\theta )=\frac{2\theta }{x^3}{e}^{-\theta /x^2}{I}_{(0,\infty )}(x),\theta >0.$$
求$\theta$的$Fisher$信息量和当样本量为$n$时，$\theta$无偏估计方差的$C-R$下界。

参考答案：

设$x_1,\cdots ,x_n$是对应$X_1,\cdots ,X_n$的样本值。

总体$\xi$的密度函数为

$$p(\xi ;\theta )=\{\begin{array}{rl}\frac{2\theta }{{\xi }^3}{e}^{-\frac{\theta }{{\xi }^2}},& x>0\\ 0,& x\le 0\end{array}(\theta >0)$$

似然函数为

$$L(\theta )=\{\begin{array}{rl}\frac{2^n{\theta }^n}{(\prod _{i=1}^n{x}_i{)}^3}{e}^{-\sum _{i=1}^n\frac{\theta }{x_i^2}},& x_i>0\\ 0,& x_i\le 0.\end{array}$$$$(i=1,\cdots ,n,\theta >0)$$

对数似然函数为

$$\begin{array}{rl}l(\theta )& =\ln L(\theta )\\ & =n\ln 2+n\ln \theta -3\sum _{i=1}^n\ln x_i\\ & -\sum _{i=1}^n\frac{\theta }{x_i^2},x_i>0,(i=1,\cdots ,n,\theta >0)\end{array}$$

由

$$\frac{dl(\theta )}{d\theta }=\frac{n}{\theta }-\sum _{i=1}^n\frac{1}{x_i^2},$$

得

$$\frac{d^{2}l(\theta )}{d{\theta }^2}=-\frac{n}{{\theta }^2}.$$

$$I_X(\theta )=-E(\frac{d^{2}l(\theta )}{d{\theta }^2})=\frac{n}{{\theta }^2}.$$

所以，$\theta$的$Fisher$信息量为

$$I(\theta )=\frac{I_X(\theta )}{n}=\frac{1}{{\theta }^2}.$$

当样本量为$n$时，$\theta$无偏估计方差的$C-R$下界

$$\frac{1}{I_X(\theta )}=\frac{{\theta }^2}{n}.$$

2.23写出下列分布族中，达到$C-R$下界的基于样本$X_1,\cdots ,X_n$的无偏估计的参数函数形式和估计量:

(1)二项分布族 { b ( k , p ) , p ∈ ( 0 , 1 ) } . \{b(k,p),p\in(0,1)\}. {b(k,p),p∈(0,1)}.

参考答案：

设$x_1,\cdots ,x_n$是对应$X_1,\cdots ,X_n$的样本值。

总体

$$\xi \stackrel{d}{=}b(k,p),p\in (0,1).$$

总体$\xi$的分布律为

$$p(\xi =x)=C_k^x{p}^x(1-p{)}^{k-x},$$$$x=0,1,\cdots ,k,p\in (0,1).$$

似然函数为

$$\begin{array}{rl}L(p)& =\prod _{i=1}^{n}p(X_i=x_i)\\ & =\prod _{i=1}^n{C}_k^{x_i}{p}^{x_i}(1-p{)}^{k-x_i}\\ & =(\prod _{i=1}^n{C}_k^{x_i})p^{\sum _{i=1}^n{x}_i}(1-p{)}^{nk-\sum _{i=1}^n{x}_i},\end{array}$$

$$x_i=0,1,\cdots ,k,p\in (0,1).$$

对数似然函数为

$$\begin{array}{rl}l(p)& =\ln L(p)=\sum _{i=1}^n\ln C_k^{x_i}+\sum _{i=1}^n{x}_i\ln p\\ & +(nk-\sum _{i=1}^n{x}_i)\ln (1-p),\\ & x_i=0,1,\cdots ,k,p\in (0,1).\end{array}$$

令

$$\begin{array}{rl}\frac{dl(p)}{dp}& =\frac{1}{p}\sum _{i=1}^n{x}_i\\ & -\frac{1}{1-p}(nk-\sum _{i=1}^n{x}_i)=0,\end{array}$$

则

$$p=\frac{\sum _{i=1}^n{x}_i}{nk}=\frac{\bar{x}}{k}.$$

所以，$p$的估计量

$$\hat{P}=\frac{\bar{X}}{k}.$$

由于

$$E(\hat{P})=E(\frac{\bar{X}}{k})=\frac{1}{k}E(\bar{X})=p,$$

所以，$\hat{P}=\frac{\bar{X}}{k}$是$p$的无偏估计。

$$\begin{array}{rl}Var(\hat{p})& =Var(\frac{\bar{X}}{k})\\ & =\frac{1}{n^2{k}^2}\sum _{i=1}^{n}Var(X_i)\\ & =\frac{p(1-p)}{nk}\end{array}$$

$$\begin{array}{rl}\frac{d^{2}l(p)}{d{p}^2}& =-\frac{1}{p^2}\sum _{i=1}^n{X}_i\\ & -\frac{1}{(1-p{)}^2}(nk-\sum _{i=1}^n{X}_i)\end{array}$$

$$\begin{array}{rl}{I}_X(p)& =E(-\frac{d^{2}l(p)}{d{p}^2})\\ & =E(\frac{1}{p^2}\sum _{i=1}^n{X}_i\\ & +\frac{1}{(1-p{)}^2}(nk-\sum _{i=1}^n{X}_i))\\ & =\frac{nk}{p(1-p)}\end{array}$$

因为

$$Var(\hat{p})=\frac{1}{I_X(p)}$$

所以$\hat{P}$作为$p$的无偏估计其方差达到了$C-R$下界。

(2)正态分布族 { N ( μ , σ 0 2 ) , μ ∈ R } . \{N(\mu,\sigma_0^2),\mu\in R\}. {N(μ,σ02​),μ∈R}.

参考答案：

设$x_1,\cdots ,x_n$是对应$X_1,\cdots ,X_n$的样本值。

总体

$$\xi \stackrel{d}{=}N(\mu ,{\sigma }_0^2),(\sigma ={\sigma }_0)$$

总体$\xi$的密度函数为

$$p(\xi ;\mu )=\frac{1}{\sqrt{2\pi }{\sigma }_0}{e}^{-\frac{(\xi -\mu {)}^2}{2{\sigma }_0^2}},\mu \in R.$$

似然函数为

$$\begin{array}{rl}L(\mu )& =\prod _{i=1}^{n}p(x_i;\mu )\\ & =\prod _{i=1}^n\frac{1}{\sqrt{2\pi }{\sigma }_0}{e}^{-\frac{(x_i-\mu {)}^2}{2{\sigma }_0^2}}\\ & =\frac{1}{(2\pi {)}^{\frac{n}{2}}{\sigma }_0^n}{e}^{-\frac{\sum _{i=1}^n(x_i-\mu {)}^2}{2{\sigma }_0^2}},\mu \in R\end{array}$$

对数似然函数为

$$\begin{array}{rl}l(\mu )& =\ln L(\mu )\\ & =-\frac{n}{2}\ln (2\pi )-\frac{n}{2}\ln ({\sigma }_0^2)\\ & -\frac{\sum _{i=1}^n(x_i-\mu {)}^2}{2{\sigma }_0^2},\mu \in R.\end{array}$$

令

$$\frac{dl(\mu )}{d\mu }=\frac{1}{{\sigma }_0^2}(\sum _{i=1}^n{x}_i-n\mu )=0,$$

则

$$\mu =\frac{1}{n}\sum _{i=1}^n{x}_i=\bar{x}.$$

所以，$\mu$的估计量

$$\hat{\mu }=\bar{X}.$$

由于

$$E(\hat{\mu })=E(\bar{X})=\mu ,$$

所以，$\hat{\mu }=\bar{X}$是$\mu$的无偏估计。

$$\begin{array}{rl}Var(\hat{\mu })& =Var(\bar{X})\\ & =\frac{1}{n^2}\sum _{i=1}^{n}Var(X_i)\\ & =\frac{{\sigma }_0^2}{n}\end{array}$$

$$\frac{d^{2}l(\mu )}{d{\mu }^2}=-\frac{n}{{\sigma }_0^2}$$

$$I_X(\mu )=E(-\frac{d^{2}l(\mu )}{d{\mu }^2})=\frac{n}{{\sigma }_0^2}$$

因为

$$Var(\hat{\mu })=\frac{1}{I_X(\mu )}$$

所以$\hat{\mu }$作为$\mu$的无偏估计其方差达到了$C-R$下界。

(3)$\Gamma$分布族 { Γ ( α , 1 2 α 2 ) , σ 2 > 0 } , α \{\Gamma(\alpha,\frac{1}{2\alpha^2}),\sigma^2>0\},\alpha {Γ(α,2α21​),σ2>0},α为已知的.

参考答案：

设$x_1,\cdots ,x_n$是对应$X_1,\cdots ,X_n$的样本值。

总体

$$\xi \stackrel{d}{=}\Gamma (\alpha ,\frac{1}{2{\sigma }^2}),{\sigma }^2>0$$

总体$\xi$的密度函数为

$$p(\xi ;{\sigma }^2)=\frac{(\frac{1}{2{\sigma }^2}{)}^{\alpha }}{\Gamma (\alpha )}{\xi }^{\alpha -1}{e}^{-\frac{1}{2{\sigma }_0^2}\xi }{I}_{(0,\infty )}(\xi ).$$

似然函数为

$$L({\sigma }^2)=\{\begin{array}{rl}\prod _{i=1}^n\frac{(\frac{1}{2{\sigma }^2}{)}^{\alpha }}{\Gamma (\alpha )}{x}_i^{\alpha -1}{e}^{-\frac{1}{2{\sigma }_0^2}{x}_i}& ,x_i>0\\ 0& ,x_i\le 0\end{array}$$$$(i=1,\cdots ,n)$$

对数似然函数为

$$\begin{array}{rl}l({\sigma }^2)& =\ln L({\sigma }^2)\\ & =-n\ln \Gamma (\alpha )+n\alpha \ln (\frac{1}{2{\sigma }^2})\\ & +(\alpha -1)\sum _{i=1}^n\ln x_i-\frac{\sum _{i=1}^n{x}_i}{2{\sigma }^2}.\end{array}$$

令

$$\frac{dl({\sigma }^2)}{d{\sigma }^2}=-\frac{n\alpha }{{\sigma }^2}+\frac{\sum _{i=1}^n{x}_i}{2{\sigma }^4}=0,$$

则

$${\sigma }^2=\frac{\bar{x}}{2\alpha }.$$

所以，${\sigma }^2$的估计量

$$\widehat{{\sigma }^2}=\frac{\bar{X}}{2\alpha }.$$

由于

$$E(\widehat{{\sigma }^2})=E(\frac{\bar{X}}{2\alpha })={\sigma }^2,$$

所以，$\widehat{{\sigma }^2}=\frac{\bar{X}}{2\alpha }$是${\sigma }^2$的无偏估计。

$$Var(\widehat{{\sigma }^2})=Var(\frac{\bar{X}}{2\alpha })=\frac{{\sigma }_0^4}{n\alpha }$$

$$\frac{d^{2}l({\sigma }^2)}{d({\sigma }^2{)}^2}=\frac{n\alpha }{{\sigma }_0^4}-\frac{\sum _{i=1}^n{x}_i}{{\sigma }^6}$$

$$I_X({\sigma }^2)=E(-\frac{d^{2}l({\sigma }^2)}{d({\sigma }^2{)}^2})=\frac{n\alpha }{{\sigma }_0^4}$$

因为

$$Var({\sigma }^2)=\frac{1}{I_X({\sigma }^2)}$$

所以$\widehat{{\sigma }^2}$作为${\sigma }^2$的无偏估计其方差达到了$C-R$下界。

---

如果您在看完以后，无论是题目还是参考解答过程有什么问题，希望不吝指出！如果有更好的解题思路或者好的问题分享，欢迎通过后台发送给我们！