宋浩概率论与数理统计-第六章-笔记

第六章

6.1 总体与样本

总体：

• 全体
• 个体
• 有限总体/无限总体
• 总体分布

样本：

• 抽样
• 变量$(X_1,X_2,\cdots ,X_n)$
• 观测值$(x_1,x_2,\cdots ,x_n)$
• 简单随机抽样
  1. 同分布
  2. 独立

$(x_1,\cdots ,x_n)$：

$F(x_1,\cdots ,x_n)=F(x_1)\times \cdots \times F(x_n)$
$P(X_1=x_1,\cdots ,X_n=x_n)=P(X_1=x_1)\times \cdots \times P(X_n=x_n)$
$f(x_1,\cdots ,x_n)=f(x_1)\times \cdots \times f(x_n)$

例
【例1】$X$：0-1分布，概率为$p$，$(X_1,X_2,\cdots ,X_n)$是样本，求联合概率分布
解：
$P(X=x)=p^x(1-p{)}^{1-x},x=0,1$
$P(X_1=x_1,X_2=x_2,\cdots ,X_n=x_n)=P(X_1=x_1)\cdots P(X_n=x_n)=p^{x_1}(1-p{)}^{1-x_1}\cdots p^{x_n}(1-p{)}^{1-x_n}=p^{x_1+\cdots +x_n}(1-p{)}^{n-(x_1+\cdots +x_n)}$

6.2.1 统计量的定义

统计量：不含任何未知参数的样本的函数

例如：

• $X_1+X_2+\cdots +X_n$
  $X_1^2+X_2^2+\cdots +X_n^2$
  m a x { ∣ X 1 ∣ , ∣ X 2 ∣ , ⋯   , ∣ X n ∣ } max\{|X_1|,|X_2|,\cdots,|X_n|\} max{∣X1​∣,∣X2​∣,⋯,∣Xn​∣}
  $X_1$
  m i n { X 3 , X 4 } min\{X_3,X_4\} min{X3​,X4​}
  $\frac{X_1+X_2+\cdots +X_n}{n}$
  是统计量
• $(X_1-\mu {)}^2+\cdots +(X_n-\mu {)}^2$
  $\frac{1}{n{\sigma }^2}(X_1+\cdots +X_n)$
  不是统计量

6.2.2 常用统计量

设样本$(X_1,X_2,\cdots ,X_n)$来自总体$X$，即有
样本均值：$\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$
未修正的样本方差：$s_0^2=\frac{1}{n}\sum _{i=1}^n(X_i-\overline{X}{)}^2$
样本方差：$s^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2$
样本标准差：$s=\sqrt{s^2}=\sqrt{\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2}$
样本$k$阶原点矩：$A_k=\frac{1}{n}\sum _{i=1}^n{X}_i^k$
样本$k$阶中心矩：$B_k=\frac{1}{n}\sum _{i=1}^n(X_i-\overline{X}{)}^k$

协方差：$S_{12}=\frac{1}{2}\sum (X_i-\overline{X})(Y_i-\overline{Y})$
相关系数：$\frac{S_{12}}{S_1{S}_2}$

设总体$X$的均值为$EX=\mu$，方差$DX={\sigma }^2$，样本$(X_1,X_2,\cdots ,X_n)$来自总体$X$，则：

• $E\overline{X}=\mu$
• $D\overline{X}=\frac{1}{n}{\sigma }^2$
• $E{S}^2={\sigma }^2$

6.3.1 抽样分布

${\chi }^2$分布

定理：$X_1,X_2,\cdots ,X_n$独立，服从$N(0,1)$，则$\sum _{i=1}^n{x}_i^2\sim {\chi }^2(n)$

${\chi }^2(n)$满足$EX=n,DX=2n$

由中心极限定理，$X\sim {\chi }^2(n)$，$n$充分大时，$\frac{X-n}{\sqrt{2n}}\stackrel{近似}{\sim }N(0,1)$

定理：$X\sim {\chi }^2(n),Y\sim {\chi }^2(m),X,Y$独立，则$X+Y\sim {\chi }^2(m+n)$
推论：$X_1,X_2,\cdots ,X_n$独立，$X_i\sim {\chi }^2(m_i)$，则$\sum _{i=1}^n{X}_i\sim {\chi }^2(\sum _{i=1}^n{m}_i)$

上$\alpha$分位数：$P({\chi }^2>{\chi }_{\alpha }^2(n))=\alpha$

例题
【例1】已知$X\sim {\chi }^2(10),P(X>a)=0.025,P(X<b)=0.05$，求$a,b$
解：
$n=10$

• 对$P(X>a)=0.025$：
  $\alpha =0.025$
  $a={\chi }_{0.025}^2(10)=20.5$
• 对$P(X<b)=0.05$
  $P(X<b)=1-P(X\ge b)=0.05$
  $P(X>b)=0.95$
  $b={\chi }_{0.95}^2(10)=3.94$

【例】$X_1,X_2,\cdots ,X_6$独立，服从$N(0,2^2)$，求$P(\sum _{i=1}^6{X}_i^2>6.54)$
解：
$X_i\sim N(0,2^2)$
$\frac{X_i}{2}\sim N(0,1)$
$\sum _{i=1}^6(\frac{X_i}{2}{)}^2\sim {\chi }^2(6)$
$P(\sum _{i=1}^6\frac{X_i^2}{4}>\frac{6.54}{4})=P({\chi }^2(6)>1.635)=0.95$

$t$分布

$X\sim t(n)$
若$n\ge 30$，则与正态分布区别很小

定理：$X\sim N(0,1),Y\sim {\chi }^2(n)$，$X,Y$独立，则$\frac{X}{\sqrt{Y/n}}\sim t(n)$

上$\alpha$分位数：$P(T>t(n))=\alpha$
$t_{1-\alpha }(n)=-t_{\alpha }(n)$

例题
【例3】$X\sim N(2,1),Y_1,Y_2,\cdots ,Y_n\sim N(0,4)$，彼此独立，令$T=\frac{4(X-2)}{\sqrt{\sum _{i=1}^4{Y}_i^2}},P(|T|>t_0)=0.01$，求$t_0$
解：
$\frac{X-2}{1}\sim N(0,1),\frac{Y_i-0}{2}\sim N(0,1)$
$\sum _{i=1}^4(\frac{Y_i}{2}{)}^2\sim {\chi }^2(4)$
$\frac{\frac{X-2}{1}}{\sqrt{\sum _{i=1}^4(\frac{Y_i}{2}{)}^2/4}}=\frac{4(X-2)}{\sqrt{\sum _{i=1}^4{Y}_i^2}}\sim t(4)$

$P(|T|>t_0)=0.01$
$P(T>t_0)=0.005$
$t_0=4.604$

$F$分布

$F(n_1,n_2)$
定理：$X\sim {\chi }^2(n_1),Y\sim {\chi }^2(n_2)$，则$\frac{X/n_1}{Y/n_2}\sim F(n_1,n_2),\frac{Y/n_2}{X/n_1}\sim F(n_2,n_1)$

推论：若$F\sim F(n_1,n_2)$，则$\frac{1}{F}\sim F(n_2,n_1)$

例题
【例4】$X_1,X_2,\cdots ,X_6$独立，服从$N(0,{\sigma }^2)$，$\frac{2(X_1^2+X_2^2)}{X_3^2+X_4^2+X_5^2+X_6^2}$
解：
$\frac{X_i}{\sigma }\sim N(0,1)$
$\frac{X_1^2}{{\sigma }^2}+\frac{X_2^2}{{\sigma }^2}\sim {\chi }^2(2),\frac{X_3^2}{{\sigma }^2}+\cdots +\frac{X_6^2}{{\sigma }^2}\sim {\chi }^2(4)$

$\frac{(\frac{X_1^2}{{\sigma }^2}+\frac{X_2^2}{{\sigma }^2})/2}{(\frac{X_3^2}{{\sigma }^2}+\cdots +\frac{X_6^2}{{\sigma }^2})/4}=\frac{2(X_1^2+X_2^2)}{X_3^2+X_4^2+X_5^2+X_6^2}\sim F(2,4)$

上$\alpha$分位数：$P(F>F_{\alpha }(n_1,n_2))=\alpha$

$F_{1-\alpha }(n_1,n_2)=\frac{1}{F_{\alpha }(n_2,n_1)}$

例题
【例5】$F\sim F(10,15)$，求${\lambda }_1,{\lambda }_2$，使得$P(F>{\lambda }_1)=0.01,P(F\le {\lambda }_2)=0.01$
解：

• ${\lambda }_1=F_{0.01}(10,15)=3.8$
• $P(F\le {\lambda }_2)=P(\frac{1}{F}\ge \frac{1}{{\lambda }_2})=0.01$
  $\frac{1}{F}\sim F(15,10)$
  ${\lambda }_2=0.293$

6.3.2 正态总体下的抽样分布

（总体是正态分布，抽样本，构造统计量的分布？）

定理（一个正态总体）：
$X\sim N(\mu ,{\sigma }^2)$，
{ X 1 , X 2 , ⋯   , X n } \{X_1,X_2,\cdots,X_n\} {X1​,X2​,⋯,Xn​}为样本，
$\overline{X}=\frac{1}{n}\sum _{i=1}^n{x}_i$，
$s^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2$，则：

• $\overline{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$
  $\frac{\overline{X}-\mu }{\sigma }\sqrt{n}\sim N(0,1)$
• $\frac{(n-1)s^2}{{\sigma }^2}=\frac{1}{{\sigma }^2}\sum _{i=0}^n(X_i-\overline{X}{)}^2\sim {\chi }^2(n-1)$
• $\overline{X}$与$X$相互独立
• $\frac{1}{{\sigma }^2}\sum _{i=1}^n(X_i-\mu {)}^2\sim {\chi }^2(n)$
• $\frac{\overline{X}-\mu }{s}\sqrt{n}\sim t(n-1)$

定理（两个正态总体）：
$X\sim N({\mu }_1,{\sigma }_1^2),Y\sim N({\mu }_2,{\sigma }_2^2)$，
{ X 1 , X 2 , ⋯   , X n 1 } , { Y 1 , Y 2 , ⋯   , Y n 2 } \{X_1,X_2,\cdots,X_{n_1}\},\{Y_1,Y_2,\cdots,Y_{n_2}\} {X1​,X2​,⋯,Xn1​​},{Y1​,Y2​,⋯,Yn2​​}为样本，
$\overline{X}=\frac{1}{n_1}\sum _{i=1}^{n_1}{x}_i,\overline{Y}=\frac{1}{n_2}\sum _{i=1}^{n_2}{y}_i$，
$s_1^2=\frac{1}{n_1-1}\sum _{i=1}^{n_1}(X_i-\overline{X}{)}^2,s_2^2=\frac{1}{n_2-1}\sum _{i=1}^{n_2}(Y_i-\overline{Y}{)}^2$，则：

• $\frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}\sim N(0,1)$
• $\frac{s_1^2/{\sigma }_1^2}{s_2^2/{\sigma }_2^2}\sim F(n_1-1,n_2-1)$
• ${\sigma }_1^2={\sigma }_2^2=\sigma$时，$T=\frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{\sqrt{\frac{(n_1-1)s_1^2+(n_2-1)s_2^2}{n_1+n_2-2}}\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2)$

例题
【例1】$X\sim N(\mu ,{\sigma }^2)$，$\overline{X}$和$s^2$分别是样本均值和样本方差，样本容量为16，求$k$使得$P(\overline{X}>\mu +ks)=0.95$
解：
$\frac{\overline{X}-\mu }{s}\sqrt{n}=\frac{4(\overline{X}-\mu )}{s}\sim t(16-1)$
$P(\overline{X}>\mu +ks)=P(\frac{4(\overline{X}-\mu )}{s}>\frac{4ks}{s})=P(\frac{4(\overline{X}-\mu )}{s}>4k)=0.95$
$4k=-1.753$
$k=-0.438$

【例2】$X\sim N(\mu ,{\sigma }^2)$，$X_1,\cdots ,X_{n+1}$为样本，$\overline{X}$和$s^2$分别是样本均值和样本方差，求$\frac{X_{n+1}-\overline{X}}{s_n}\sqrt{\frac{n}{n+1}}$的分布
解：
$\overline{X}\sim N(\mu ,{\sigma }^2),X_{n+1}\sim N(\mu ,{\sigma }^2)$
$X_{n+1}-\overline{X}\sim N(0,(1+\frac{1}{n}){\sigma }^2)$

$U=\frac{X_{n+1}-\overline{X}-0}{\sqrt{(1+\frac{1}{n}){\sigma }^2}}=\frac{X_{n+1}-\overline{X}}{\sigma \sqrt{\frac{n+1}{n}}}\sim N(0,1)$
$\frac{(n-1)s_n^2}{{\sigma }^2}\sim {\chi }^2(n-1)$

$\frac{\frac{X_{n+1}-\overline{X}}{\sigma \sqrt{\frac{n+1}{n}}}}{\sqrt{\frac{(n-1)s_n^2}{{\sigma }^2}/(n-1)}}\sim t(n-1)$