机器学习|双正态总体的区间估计（均值、方差的置信区间求法）+ 最优置信区间取法| 15mins 入门 |概统学习笔记（二十九）

双正态总体$N({\mu }_i,{\sigma }_i^2)$的区间估计

1. 两个总体均值差${\mu }_1-{\mu }_2$的置信区间

   （1）${\sigma }_1^2、{\sigma }_2^2$均为已知

   因为$\overline{X}、\overline{Y}$分别为${\mu }_1、{\mu }_2$的无偏估计，故$\overline{X}-\overline{Y}$是${\mu }_1-{\mu }_2$的无偏估计

   由$\overline{X}、\overline{Y}$的独立性及$\overline{X}\sim N({\mu }_1,\frac{{\sigma }_1^2}{n_1})、\overline{Y}\sim N({\mu }_2,\frac{{\sigma }_2^2}{n_2})$得
   $$\overline{X}-\overline{Y}\sim N({\mu }_1-{\mu }_2,\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2})$$
   于是
   $$\frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}\sim N(0,1)$$
   故${\mu }_1-{\mu }_2$在置信度为$1-\alpha$时的置信区间为
   $$[(\overline{X}-\overline{Y})-{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}},(\overline{X}-\overline{Y})+{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}]$$

   实际应用

   设超大牵伸纺机所纺的纱的断裂强度服从$N({\mu }_1,2.18^2)$，普通纺机所纺的纱的断裂强度服从$N({\mu }_2,1.76^2)$。现对前者抽取容量为200 的样本$X_1,X_2,...,X_{200}$，算得$\overline{X}=5.32$;对后者抽取容量为100的样本$Y_1,Y_2,...,Y_{100}$，算得$\overline{Y}=5.76$。求置信度为0.95时，$\mu_1-\mu_2 $的区间估计。

   解：这是方差已知时求双正态样本的均值差的区间估计。

   依题意得：${\sigma }_1^2=2.18^2;{\sigma }_2^2=1.76^2;n_1=200;n_2=100$
   $$\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}=0.234;\overline{X}-\overline{Y}=-0.44$$
   查正态分布表得：${\mu }_{a/2}={\mu }_{0.025}=1.96$
   $$\begin{gathered} (\overline{X}-\overline{Y})-{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}=-0.899 \\ (\overline{X}-\overline{Y})+{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}=0.019 \end{gathered}$$
   故所求的${\mu }_1-{\mu }_2$的置信区间为$[-0.899,0.019]$

   （2）${\sigma }_1^2={\sigma }_2^2={\sigma }^2$,但${\sigma }^2$为未知

   由前面提到的定理，可知
   $$T=\frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2)$$
   于${\mu }_1-{\mu }_2$在置信度为$1-a$时的置信区间为
   $$[(\overline{X}-\overline{Y})-t_{a/2}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}},(\overline{X}-\overline{Y})+t_{a/2}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}]$$
   其中：
   $$S_w=\sqrt{\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}}$$

2. 两个总体方差比${\sigma }_1^2/{\sigma }_2^2$的置信区间

   根据实际情况需要，只需要介绍${\mu }_1、{\mu }_2$未知下的$\frac{{\sigma }_1^2}{{\sigma }_2^2}$的置信区间，由于分布$F(n_1-1,n_2-1)$不依赖任何未知参数，由此得
   P { F 1 − a / 2 ( n 1 − 1 , n 2 − 1 ) < S 1 2 / S 2 2 σ 1 2 / σ 2 2 < F a / 2 ( n 1 − 1 , n 2 − 1 ) } = 1 − a P { S 1 2 S 2 2 ⋅ 1 F a / 2 ( n 1 − 1 , n 2 − 1 ) < σ 1 2 σ 2 2 < S 1 2 S 2 2 ⋅ 1 F 1 − a / 2 ( n 1 − 1 , n 2 − 1 ) } = 1 − a P\{F_{1-a/2}(n_1-1,n_2-1)<\frac{S_1^2/S_2^2}{\sigma_1^2/\sigma_2^2}<F_{a/2}(n_1-1,n_2-1)\}=1-a \\ P\{\frac{S_1^2}{S_2^2}·\frac{1}{F_{a/2}(n_1-1,n_2-1)}<\frac{\sigma^2_1}{\sigma_2^2}<\frac{S_1^2}{S_2^2}·\frac{1}{F_{1-a/2}(n_1-1,n_2-1)}\} = 1-a P{F1−a/2​(n1​−1,n2​−1)<σ12​/σ22​S12​/S22​​<Fa/2​(n1​−1,n2​−1)}=1−aP{S22​S12​​⋅Fa/2​(n1​−1,n2​−1)1​<σ22​σ12​​<S22​S12​​⋅F1−a/2​(n1​−1,n2​−1)1​}=1−a
   进而得出$\frac{{\sigma }_1^2}{{\sigma }_2^2}$的置信区间为
   $$[\frac{S_1^2}{S_2^2}\cdot \frac{1}{F_{a/2}(n_1-1,n_2-1)},\frac{S_1^2}{S_2^2}\cdot \frac{1}{F_{1-a/2}(n_1-1,n_2-1)}]$$

• 若样本容量很大，即是总体分布未知，应用中心极限定理，可得总体的近似分布，于是也可以近似求得参数的区间估计

• 给定样本，给定置信水平，置信区间也不是唯一的。对同一个参数，我们可以构造许多置信区间

  e.g 设$X_1,...,X_n$是取自$N(\mu ,{\sigma }^2)$的样本，$\sigma$已知，求参数$\mu$的置信水平为$1-a$的置信区间。

  取枢轴量
  $$U=\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)$$
  由正态分布表，对任意$a、b$，我们可以求得$P(a<U<b)$.

  如，由$P(-1.96\le U\le 1.96)=0.95$

我们得到均值$\mu$的置信水平为$1-a$的置信区间为
$$[\overline{X}-1.96\sigma /\sqrt{n},\overline{X}+1.96\sigma /\sqrt{n}]$$
同样的，由$P(-1.75\le U\le 2.33)=0.95$

我们得到均值$\mu$的置信水平为$1-a$的置信区间为
$$[\overline{X}-1.75\sigma /\sqrt{n},\overline{X}+2.33\sigma /\sqrt{n}]$$
这个区间比前面一个要长一些。

类似的，我们可以得到若干个不同的置信区间。

任意两个数$a$和$b$，只要它们的纵坐标包含$f(u)$下$95$的面积，就确定一个$95$的置信区间。

但是，我们总是希望置信区间尽可能短。

在概率密度为单峰且对称的情形下，当$a=-b$时，求得的置信区间的长度为最短。

即使是在概率密度不对称的情形下，如${\chi }^2$分布，$F$分布，习惯上仍取对称的百分位点来计算未知参数的置信区间。

我们可以得到未知参数的任何置信水平小于1的置信区间，并且置信水平越高，相应的置信区间的平均长度越长。

也就是说，要想得到的区间估计可靠度高，区间长度就长，估计的精度就差。这是一对矛盾。

实用中应在保证足够可靠的前提下，尽量使得区间的长度短一些。