概率论与数理统计张宇9讲 第九讲 参数估计和假设检验

例题九

例9.16  设$X_1,X_2,\cdots ,X_n$是来自总体$X$的一个简单随机样本，则样本标准差$S$是总体标准差$\sigma$的（  ）
$(A)$无偏估计量；
$(B)$最大似然估计量；
$(C)$相合估计量；
$(D)$以上均不正确。

解  本题主要考察以下结论。
  对于来自总体$X$的样本$X_1,X_2,\cdots ,X_n$，其样本方差$S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2$是${\sigma }^2$的无偏估计量，但其样本标准差$S$不是总体标准差$\sigma$的无偏估计量。
  对于来自总体$X$的样本$X_1,X_2,\cdots ,X_n$，二阶样本中心距$\frac{n-1}{n}{S}^2$是${\sigma }^2$的最大似然估计量，$\sqrt{\frac{n-1}{n}}S$是$\sigma$的最大似然估计量。
  对于来自总体体$X$的样本$X_1,X_2,\cdots ,X_n$，$S^2$是${\sigma }^2$的相合估计量，因为样本矩具有相合性，即当$n\to \infty$时，有
$$\frac{1}{n}\sum _{i=1}^n{X}_i^2\stackrel{P}{\to }E(X^2),\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i\stackrel{P}{\to }E(X).$$
  所以
$$\begin{array}{rl}{S}^2& =\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2=\frac{1}{n-1}\left(\sum _{i=1}^n{X}_i^2-n\overline{X}\right)\\ & \stackrel{P}{\to }E(X^2)-(E(X){)}^2=D(X)={\sigma }^2.\end{array}$$
  从而有$S=\sqrt{S^2}\stackrel{P}{\to }\sqrt{D(X)}=\sqrt{{\sigma }^2}=\sigma$。
  综上分析，本题应该选择$(C)$。（这道题主要利用了估计量的定义求解）

例9.20  从正态分布$X\sim N({\mu }_1,{\sigma }^2)$和$Y\sim N({\mu }_2,{\sigma }^2)$中随意抽取容量分别为$n_1,n_2$的两个独立样本，样本方差分别为$S_X^2,S_Y^2$。证明：对任意常数$a,b$，只要$a+b=1$，统计量${\hat{\sigma }}^2=a{S}_X^2+b{S}_Y^2$都是${\sigma }^2$的无偏估计，并确定$a,b$使$D({\hat{\sigma }}^2)$达到最小。

解  由题设知$E(S_X^2)={\sigma }^2,E(S_Y^2)={\sigma }^2$，$S_X^2$与$S_Y^2$相互独立，且
$$\begin{gathered} \frac{(n_1-1)S_X^2}{{\sigma }^2}\sim {\chi }^2(n_1-1), \\ \frac{(n_2-1)S_Y^2}{{\sigma }^2}\sim {\chi }^2(n_2-1). \end{gathered}$$
  若$a+b=1$，则$E({\hat{\sigma }}^2)=aE(S_X^2)+bE(S_Y^2)=a{\sigma }^2+b{\sigma }^2={\sigma }^2$，故${\hat{\sigma }}^2$为${\sigma }^2$的无偏估计。又
$$\begin{gathered} D\left[\frac{(n_1-1)S_X^2}{{\sigma }^2}\right]=\frac{(n_1-1{)}^2}{{\sigma }^4}D(S_X^2)=2(n_1-1),D(S_X^2)=\frac{2{\sigma }^4}{n_1-1}, \\ D\left[\frac{(n_2-1)S_Y^2}{{\sigma }^2}\right]=\frac{(n_2-1{)}^2}{{\sigma }^4}D(S_Y^2)=2(n_2-1),D(S_Y^2)=\frac{2{\sigma }^4}{n_2-1}, \\ \begin{array}{rl}D({\hat{\sigma }}^2)& =D(a{S}_X^2+b{S}_Y^2)=a^{2}D(S_X^2)+b^{2}D(S_Y^2)\\ & =\left(\frac{a^2}{n_1-1}+\frac{b^2}{n_2-1}\right)2{\sigma }^4\\ & =\left[\frac{a^2}{n_1-1}+\frac{(1-a{)}^2}{n_2-1}\right]2{\sigma }^4.\end{array} \end{gathered}$$
  记$g(a)=\frac{a^2}{n_1-1}+\frac{(1-a{)}^2}{n_2-1}$。令$g^{\prime }(a)=\frac{2a}{n_1-1}-\frac{2(1-a)}{n_2-1}=0$，解得
$$a=\frac{n_1-1}{n_1+n_2-2},b=1-a=\frac{n_2-1}{n_1+n_2-2}.$$
  又$g^{\prime \prime }(a)=\frac{2}{n_1-1}+\frac{2}{n_2-1}>0$，所以当$a=\frac{n_1-1}{n_1+n_2-2},b=1-a=\frac{n_2-1}{n_1+n_2-2}$时，$D({\hat{\sigma }}^2)$达到最小。（这道题主要利用了公式变换求解）

习题七

9.7  设$X_1,X_2,\cdots ,X_n$是取自正态总体$X\sim N(\mu ,{\sigma }^2)$的简单随机样本，样本均值$\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$。

（1）记$S_1^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2,S_2^2=\frac{1}{n}\sum _{i=1}^n(X_i-\overline{X}{)}^2,S_3^2=\frac{1}{n+1}\sum _{i=1}^n(X_i-\overline{X}{)}^2$，试问$S_i^2(i=1,2,3)$中哪一个是${\sigma }^2$的无偏估计？哪一个是${\sigma }^2$的一致估计？哪一个是方差最小？

解  由于总体$X\sim N(\mu ,{\sigma }^2)$，所以$S_0^2=\sum _{i=1}^n{\left(\frac{X_i-\overline{X}}{\sigma }\right)}^2\sim {\chi }^2(n-1)$，再根据辛钦大数定律与依概率收敛性质可求得（1）的所有解答。因为$S_0^2\sim {\chi }^2(n-1)$，所以，$E(S_0^2)=n-1,D(S_0^2)=2(n-1)$。
  又$S_1^2=\frac{{\sigma }^2}{n-1}{S}_0^2,S_2^2=\frac{{\sigma }^2}{n}{S}_0^2,S_3^2=\frac{{\sigma }^2}{n+1}{S}_0^2$，所以
$$\begin{gathered} E(S_1^2)=\frac{{\sigma }^2}{n-1}E(S_0^2)={\sigma }^2, \\ E(S_2^2)=\frac{{\sigma }^2}{n}E(S_0^2)=\frac{n}{n-1}{\sigma }^2, \\ E(S_3^2)=\frac{{\sigma }^2}{n+1}E(S_0^2)=\frac{n-1}{n+1}{\sigma }^2, \\ D(S_1^2)=\frac{{\sigma }^4}{(n-1{)}^2}D(S_0^2)=\frac{2(n-1)}{(n-1{)}^2}{\sigma }^4, \\ D(S_2^2)=\frac{{\sigma }^4}{n^2}D(S_0^2)=\frac{2(n-1)}{n^2}{\sigma }^4, \\ D(S_3^2)=\frac{{\sigma }^4}{(n+1{)}^2}D(S_0^2)=\frac{2(n-1)}{(n+1{)}^2}{\sigma }^4, \\ D(S_1^2)>D(S_2^2)>D(S_3^2). \end{gathered}$$
  故$S_1^2$为${\sigma }^2$的无偏估计，$S_3^2$的方差最小。
  由辛钦大数定律，$\overline{X}\stackrel{P}{\to }E(X)=\mu ,\frac{1}{n}\sum _{i=1}^n{X}_i^2\stackrel{P}{\to }{\sigma }^2+{\mu }^2$，故
$$\begin{gathered} S_2^2=\frac{1}{n}\sum _{i=1}^n{X}_i^2-{\overline{X}}^2\stackrel{P}{\to }{\sigma }^2+{\mu }^2-{\mu }^2={\sigma }^2 \\ {S}_1^2=\frac{n}{n-1}{S}_2^2\stackrel{P}{\to }{\sigma }^2, \\ {S}_3^2=\frac{n}{n+1}{S}_2^2\stackrel{P}{\to }{\sigma }^2, \end{gathered}$$
  即$S_i^2(i=1,2,3)$都是${\sigma }^2$的一致估计。

（2）如果$\mu$已知，求$k_1$使${\hat{\sigma }}_1=k_1\sum _{i=1}^n|X_i-\mu |$是$\sigma$的无偏估计；如果$\mu$未知，求$k_2$使${\hat{\sigma }}_2=k_2\sum _{i=1}^n|X_i-\mu |$是$\sigma$的无偏估计。

解  $k_i$应使$E({\hat{\sigma }}_i)=\sigma$，为计算$E({\hat{\sigma }}_i)$，需先求出$X_i-\mu$及$X_i-\overline{X}$的分布。
  已知$X_i\sim N(\mu ,{\sigma }^2)$，故
$$\begin{gathered} X_i-\mu \sim N(0,{\sigma }^2), \\ \begin{array}{rl}E(|X_i-\mu |)& ={\int }_{-\infty }^{+\infty }|x|\cdot \frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{1}{2}{\left(\frac{x}{\sigma }\right)}^2}\mathrm{d}x=\frac{2}{\sqrt{2\pi }\sigma }{\int }_0^{+\infty }x{e}^{-\frac{1}{2}{\left(\frac{x}{\sigma }\right)}^2}\mathrm{d}x\\ & =\sqrt{\frac{2}{\pi }}\left[-\sigma e^{-\frac{1}{2}{\left(\frac{x}{\sigma }\right)}^2}\right]{|}_0^{+\infty }=\frac{2}{\pi }\sigma ,\end{array} \end{gathered}$$
  所以$E({\hat{\sigma }}_1)=k_1\sum _{i=1}^{n}E(|X_i-\mu |)=k_{1}n\sqrt{\frac{2}{\pi }}\sigma$，因此当$k_1=\frac{1}{n}\sqrt{\frac{2}{\pi }}$时，${\hat{\sigma }}_1=\frac{1}{n}\sqrt{\frac{2}{\pi }}\sum _{i=1}^n|X_i-\mu |$为$\sigma$的无偏估计。
  由于$X_i\sim N(\mu ,{\sigma }^2)$且相互独立，所以
$$X_i-\overline{X}=\left(1-\frac{1}{n}\right)X_i-\frac{1}{n}\sum _{j\ne i}{X}_j\sim N\left(0,\frac{n-1}{n}{\sigma }^2\right)\stackrel{\text{记}}{=}N(0,{\sigma }_1^2).$$
  其中${\sigma }_1^2=\frac{n-1}{n}{\sigma }^2$。由上面计算知$E(|X_i-\overline{X}|)=\sqrt{\frac{2}{\pi }}{\sigma }_1=\sqrt{\frac{2(n-1)}{n\pi }}\sigma$，所以
$$E({\hat{\sigma }}_2)=k_2\sum _{i=1}^{n}E(|X_i-\overline{X}|)=k_{2}n\sqrt{\frac{2(n-1)}{n\pi }}\sigma =k_2\sqrt{\frac{2n(n-1)}{\pi }}\sigma ,$$
  因此当$k_2=\sqrt{\frac{\pi }{2n(n-1)}}$时，${\hat{\sigma }}_2=\sqrt{\frac{\pi }{2n(n-1)}}\sum _{i=1}^n|X_i-\overline{X}|$为的无偏估计。（这道题主要利用了无偏估计的定义求解）

新版习题九

例9.9

例9.14

新版习题九

9.2

写在最后

  如果觉得文章不错就点个赞吧。另外，如果有不同的观点，欢迎留言或私信。
   欢迎非商业转载，转载请注明出处。