11.第四章 区间估计(2)

第四章 区间估计(2)

1.枢轴变量法概述

枢轴变量法的核心在于从点估计入手构造置信区间，将点估计$T(\mathbf{X})$与参数$\theta$复合在一起成为一个变量$\phi (T,\theta )$，要求它的表达式与未知参数$\theta$有关，但是分布却与参数无关。由于枢轴变量的表达式与参数有关，因而不是统计量，只能说这是一种构造区间估计的方法。

具体的枢轴变量法步骤是：

1. 找到一个待估参数$\mu$的良好点估计$T(\mathbf{X})$；
2. 构造出一个表达式与待估参数有关的函数$\phi (T,\mu )$，使得其分布与参数无关；
3. 对给定$0<\alpha <1$，找到两个常数$a,b$使得${\mathbf{P}}_{\mu }(a\le \phi (T,\mu )\le b)=1-\alpha$；
4. 解不等式$a\le \phi (T,\mu )\le b$，得到${\hat{\mu }}_1(\mathbf{X})\le \mu \le {\hat{\mu }}_2(\mathbf{X})$，这就是所需要的置信区间。

2.正态分布的枢轴变量法

对于单正态总体$N(\mu ,{\sigma }^2)$，记$\bar{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i,S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2$，要求参数置信水平为$1-\alpha$的双侧置信区间。这里用$u_p$表示标准正态分布的上$p$分位数，$t_n(p)$表示$t_n$分布的上$p$分位数，用${\chi }_n^2(p)$表示${\chi }_n^2$分布的上$p$分位数。有以下这些情况：

• ${\sigma }^2$已知，求$\mu$：由于$\bar{X}\sim N(\mu ,{\sigma }^2/n)$，所以
  $$\begin{gathered} \frac{\sqrt{n}(\bar{X}-\mu )}{\sigma }\sim N(0,1) \\ 即[\bar{X}-\frac{\sigma }{\sqrt{n}}{u}_{\alpha /2},\bar{X}+\frac{\sigma }{\sqrt{n}}{u}_{\alpha /2}] \end{gathered}$$

• ${\sigma }^2$未知，求$\mu$：由于$\frac{\sqrt{n}(\bar{X}-\mu )}{\sigma }\sim N(0,1),\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }_{n-1}^2$，所以
  $$\begin{gathered} \frac{\sqrt{n}(X-\mu )}{S}\sim t_{n-1} \\ 即[\bar{X}-\frac{S}{\sqrt{n}}{t}_{n-1}(\alpha /2),\bar{X}+\frac{S}{\sqrt{n}}{t}_{n-1}(\alpha /2)] \end{gathered}$$

• $\mu$已知，求${\sigma }^2$：此时找到${\sigma }^2$的无偏估计$S_n^2=\frac{1}{n}{\sum }_{i=1}^n(X_i-\mu {)}^2$，且$\frac{n{S}_n^2}{{\sigma }^2}\sim {\chi }_n^2$，所以
  $$\begin{gathered} \frac{n{S}_n^2}{{\sigma }^2}\sim {\chi }_n^2 \\ 即[\frac{n{S}_n^2}{{\chi }_n^2(\alpha /2)},\frac{n{S}_n^2}{{\chi }_n^2(1-\alpha /2)}] \end{gathered}$$

• $\mu$未知，求${\sigma }^2$：由于$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }_{n-1}^2$，所以
  $$\begin{gathered} \frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }_{n-1}^2 \\ 即[\frac{(n-1)S^2}{{\chi }_{n-1}^2(\alpha /2)},\frac{(n-1)S^2}{{\chi }_{n-1}^2(1-\alpha /2)}] \end{gathered}$$
  以上两种情况，对于$\sigma$直接将上下界开方即可。

对于双正态总体${\mathbf{X}}_m\sim N(a,{\sigma }_1^2),{\mathbf{Y}}_n\sim N(b,{\sigma }_2^2)$，且二者相互独立。记$\bar{X}=\frac{1}{m}{\sum }_{i=1}^n{X}_i,\bar{Y}=\frac{1}{n}{\sum }_{j=1}^n{Y}_j,S_m^2=\frac{1}{m-1}{\sum }_{i=1}^m(X_i-\bar{X}{)}^2,S_n^2=\frac{1}{n-1}{\sum }_{j=1}^n(Y_i-\bar{Y}{)}^2$。有均值差和方差比两种可以估计的参数。

对于均值差$b-a$的估计，有以下几种情况：

• $m=n$，即两组样本对称时，令$Z_i=Y_i-X_i$，有$Z_i\sim N(b-a,{\sigma }_1^2+{\sigma }_2^2)$，转化为单变量均值估计问题。

• ${\sigma }_1^2,{\sigma }_2^2$已知时，$\bar{Y}-\bar{X}\sim N(b-a,\frac{{\sigma }_1^2}{m}+\frac{{\sigma }_2^2}{n})$，标准化即可作为枢轴量。

• 当${\sigma }_1^2={\sigma }_2^2={\sigma }^2$但未知时，取联合方差$S_w^2$为
  $$\begin{gathered} S_w^2=\frac{1}{m+n-2}\left[\sum _{i=1}^n(X_i-\bar{X}{)}^2+\sum _{j=1}^n(Y_i-\bar{Y}{)}^2\right] \\ {T}_w=\frac{(\bar{Y}-\bar{X})-(b-a)}{T_w}\sqrt{\frac{mn}{m+n}}\sim t_{m+n-2} \end{gathered}$$
  可以取$T_w$作为枢轴量。

• 当${\sigma }_1^2\ne {\sigma }_2^2$均未知时，可使用大样本方法，取
  $$\tilde{U}=\frac{(\bar{Y}-\bar{X})-(b-a)}{\sqrt{S_1^2/m+S_2^2/n}}\stackrel{\mathcal{L}}{⟶}N(0,1)$$
  小样本情形用到非中心$t$分布。

对于方差比${\sigma }_1^2/{\sigma }_2^2$，有以下几种情况：

• 当$a,b$已知时，记$S_a^2=\frac{{\sum }_{i=1}^m(X_i-a{)}^2}{m},S_b^2=\frac{{\sum }_{j=1}^n(Y_i-b{)}^2}{n}$，则有$m{S}_a^2/{\sigma }_1^2\sim {\chi }_m^2,n{S}_b^2/{\sigma }_2^2\sim {\chi }_n^2$，于是
  $$F=\frac{S_a^2/{\sigma }_1^2}{S_b^2/{\sigma }_2^2}\sim F_{m,n}$$
  可取$F$作为枢轴量。

• 当$a,b$未知是，有$(m-1)S_1^2\sim {\chi }_{m-1}^2,(n-1)S_2^2\sim {\chi }_{n-1}^2$，于是
  $$F=\frac{S_1^2/{\sigma }_1^2}{S_2^2/{\sigma }_2^2}\sim F_{m-1.n-1}$$
  可取$F$作为枢轴量。

3.非正态分布的枢轴变量法

对于指数分布$\text{Exp}(\lambda )，f(x,\lambda )=\lambda e^{-\lambda x}{I}_{(0,\infty )(x)}$，由于$\bar{X}$是其UMVUE且$2\lambda n\bar{X}\sim {\chi }_{2n}^2$，所以可取$T=2\lambda n\bar{X}$为枢轴量。

对于分布$U(0,\theta )$，$\frac{n+1}{n}{X}_{(n)}$是其UMVUE，$Y=\frac{X_{(n)}}{\theta }$的概率密度为$f_Y(y)=n{y}^{n-1}{I}_{(0,1)}(y)$，分布函数为$F_Y(y)=y^n{I}_{(0,1)}(y)+I_{(1,\infty )}(y)$。取它的倒数$Z=1/Y$，则
$$\begin{array}{rl}forz>1,F_Z(z)=& \mathbf{P}(1\le \frac{1}{Y_{(n)}}\le z)\\ =& \mathbf{P}(\frac{1}{z}\le Y_{(n)}\le 1)\\ =& 1-F_Y(\frac{1}{z})\\ =& 1-z^{-n}\\ f_Z(z)=& F_Z^{\prime }(z)=n{z}^{-(n+1)}{I}_{(1,\infty )}(z)\end{array}$$
现确定$1\le d_1\le d_2\le \infty$，使得
$$\begin{array}{rl}& {\mathbf{P}}_{\theta }\left(d_1\le \frac{\theta }{T}\le d_2\right)\\ =& {\mathbf{P}}_{\theta }(d_{1}T\le \theta \le d_{2}T)\\ =& {\int }_{d_1}^{d_2}n{z}^{-n-1}dz\\ =& \frac{1}{d_1^n}-\frac{1}{d_2^n}=1-\alpha \end{array}$$
取$d_1=1,d_2=\frac{1}{\sqrt[n]{\alpha }}$，反解得到置信区间为$[T,\frac{T}{\sqrt[n]{\alpha }}]$。

---

按照大样本方法找未知参数的置信区间，有以下几个例子。

柯西分布$C(\theta )$的位置参数，密度函数为$f(x,\theta )=\frac{1}{\pi [1+(x-\theta {)}^2]}$。由于柯西分布没有均值，样本的中位数$m_n$反映总体的中位数，所以取$m_n-\theta$作为枢轴量。在大样本情形下，有
$$\frac{2\sqrt{n}(m_u-\theta )}{\pi }\stackrel{\mathcal{L}}{⟶}N(0,1)$$
对于两点分布$b(1,p)$中抽取的样本$\mathbf{X}=(X_1,\cdots ,X_n)$，取$S_n={\sum }_{i=1}^n{X}_i$，有$S_n\sim b(n,p)$。在大样本情形下，有
$$\begin{gathered} \frac{S_n-np}{\sqrt{np(1-p)}}=\frac{\sqrt{n}(\bar{X}-p)}{\sqrt{p(1-p)}}\stackrel{\mathcal{L}}{⟶}N(0,1) \\ \mathbf{P}(|T|\le u_{\alpha /2})\approx 1-\alpha \end{gathered}$$
要从枢轴量中解出统计量，记$\gamma =u_{\alpha /2},\hat{p}=\bar{X}$，则
$$\begin{gathered} \begin{array}{rl}& \left|\frac{\sqrt{n}(\bar{X}-p)}{\sqrt{p(1-p)}}\right|\le u_{\alpha /2}\\ ⟺& \left|\frac{\sqrt{n}(\hat{p}-p)}{\sqrt{p(1-p)}}\right|\le \gamma \\ ⟺& (\hat{p}-p{)}^2\le \frac{{\gamma }^{2}p(1-p)}{n}\\ ⟺& p^2(n+{\gamma }^2)-p(2n\hat{p}+{\gamma }^2)+n{\hat{p}}^2\le 0\end{array} \\ \Delta =(2n\hat{p}+{\gamma }^2{)}^2-4n{\hat{p}}^2(n+{\gamma }^2)={\gamma }^2({\gamma }^2+4n\hat{p}(1-\hat{p}))\ge 0 \end{gathered}$$
这就可以根据一元二次方程的解法解出两个正根。实际应用中，如果将分母的$p$直接换成$\hat{p}$则更为简洁，且依然有渐近正态性，即
$$\frac{\sqrt{n}(\hat{p}-p)}{\sqrt{\hat{p}(1-\hat{p})}}\stackrel{\mathcal{L}}{⟶}N(0,1)$$

对于泊松分布$P(\lambda ),P(X_i=k)=\frac{{\lambda }^k}{n!}{e}^{-\lambda }$，记$S_n={\sum }_{i=1}^n{X}_i\sim P(n\lambda )$，当$n$充分大时，有
$$\frac{S_n-n\lambda }{\sqrt{n\lambda }}=\frac{\sqrt{n}(\bar{X}-\lambda )}{\sqrt{\lambda }}\stackrel{\mathcal{L}}{⟶}N(0,1)$$
于是可以将其作为估计量，方法与两点分布类似。实际运用中，也可以采用与两点分布一样的简化方法，把分母中的$\lambda$换成$\hat{\lambda }=\bar{X}$，直接有
$$\frac{\sqrt{n}(\bar{X}-\lambda )}{\sqrt{\hat{\lambda }}}\stackrel{\mathcal{L}}{⟶}N(0,1)$$