宋浩概率论与数理统计笔记——第六章

6.1 总体与样本

总体：全体 10万人

​ 个体

​ 有限总体、无限总体

X 总体分布

样本：抽样 $$\begin{gathered} (X_1,...,X_n),(x_1,...,x_n) \\ 变量—————观测值 \end{gathered}$$

简单随机抽样

（1）同分布

（2）相互独立

样本的分布$$\begin{gathered} (X_1,...,X_n) \\ F(x_1,...,x_n)=F(x_1)...F(x_n) \\ P(X_1=x_1,...,X_n=x_n)=P(X_1=x_1)...P(X_1=x_1) \\ f(x_1...x_n)=f(x_1)...f(x_n) \end{gathered}$$

例：

$$\begin{gathered} X服从0-1分布，概率为P,(X_1,...,X_n)为样本,P(X=x)=P^x(1-P{)}^{1-x},x=0,1 \\ P(X_1=x_1,...,X_n=x_n) \\ =P(X_1=x_1)...P(X_n=x_n) \\ =P^{x_1}(1-P{)}^{1-x_1}...P^{x_n}(1-P{)}^{1-x_n} \\ =P^{x_1+...+x_n}(1-P{)}^{n-(x_1+...x_n)} \end{gathered}$$

6.2.1 统计量的定义

不含任何未知参数的样本的函数

是统计量：$X_1+X_2+...+X_n,X_1^2+X_2^2+...+X_n^2,max|X_1|,...,|X_n|,X_1等等$

不是统计量：$$\begin{gathered} N(\mu ,{\sigma }^2),\mu ,\sigma 未知 \\ (X_1-\mu {)}^2+...+(X_n-\mu {)}^2 \\ \frac{1}{n{\sigma }^2}(X_1+...+X_n) \end{gathered}$$

6.2.2 常用统计量

设样本$(X_1,X_2,...,X_n)$来自总体$X_1$,即有

样本均值：$\bar{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$

未修正的样本方差：$S_0^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2$

修正的样本方差：$S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2$

​ $S^2=\frac{n}{n-1}{S}_0^2$

样本标准差：$S=\sqrt{S}=\sqrt{\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2}$

样本$k$阶原点矩：$A_k=\frac{1}{n}{\sum }_{i=1}^n{X}_i^k$ ,一阶原点矩就是它的均值

样本$k$阶中心矩：$B_k=\frac{1}{n}{\sum }_{i=1}^n(X_i-\bar{X}{)}^k$ ,二阶中心矩就是未修正的方差

协方差：$S_{12}=\frac{1}{n}\sum (X_i-\bar{X})(Y_i-\bar{Y}),R=\frac{S_{12}}{S_1{S}_2},S_1{S}_2是标准差$

样本均值和样本方差的性质：

定理：设总体X的均值为$EX=\mu$，方差为$DX={\sigma }^2$，样本(X_1,X_2,…,X_n)来自总体X，则

(1)$E\bar{X}=\mu$

(2)$D\bar{X}=\frac{1}{n}{\sigma }^2$

(3)$E(S^2)={\sigma }^2$

6.3.1 抽样分布

构造的统计量的分布

卡方分布$({\chi }^2分布)$

${\chi }^2(n),n为自由度(参数)$

1)${\chi }^2(2)是\lambda =2的指数分布$

2)单峰曲线:函数在$n-2时取最大值，图像不对称，n增大，峰向越右移动越对称，n很大时可用正态分布近似$

定理6.2：$X_1,...,X_n相互独立，N(0,1),{\sum }_{i=1}^n{x}_i^2\sim {\chi }^2(n)$，(标准正态分布取平方后的和为卡方分布)

$EX=n,DX=2n$

由中心极限定理可知，$X\sim {\chi }^2(n),n充分大时，\frac{X-n}{\sqrt{2n}}{\sim }_{近似}N(0,1)$

定理6.3：$X\sim {\chi }^2(n),Y\sim {\chi }^2(m),X、Y相互独立,X+Y\sim {\chi }^2(m+n)$

推论：$X_i\sim {\chi }^2(m_i),x_i之间相互独立,{\sum }_{i=1}^n{X}_i\sim {\chi }^2({\sum }_{i=1}^n{m}_i)$

上$\alpha$分位数：$P({\chi }^2>{\chi }_{\alpha }^2(n))=\alpha$

例：已知$X\sim {\chi }^2(10),P(X>a)=0.025,P(X<b)=0.05,求a和b$

${\chi }_{0.025}^2(10)=20.5=a$

$$\begin{gathered} P(X<b)=1-P(X\ge b)=0.05 \\ P(X\ge b)=0.95 \\ b={\chi }_{0.95}^2(10)=3.94 \end{gathered}$$

例：$X_1,...,X_6,N(0,4),求P({\sum }_{i=1}^6{x}_i^2>6.54)$

$$\begin{gathered} X_i\sim N(0,4) \\ \downarrow 标准化\downarrow \\ \frac{X_i-0}{2}\sim N(0,1),{\sum }_{i=1}^6(\frac{x_i}{2}{)}^2\sim {\chi }^2(6) \\ P(\frac{{\sum }_{i=1}^6{x}_i^2}{4}>\frac{6.54}{4})=P({\chi }^2(6)>1.635)=0.95 \end{gathered}$$

t分布 $X\sim t(n)$

$n\ge 30,t分布图像与正态分布区别很小$

定理6.4：$X\sim N(0,1)、Y\sim {\chi }^2(n)，X、Y相互独立，\frac{X}{\sqrt{Y/n}}\sim t(n)$

$$\begin{gathered} P(T>t_{\alpha }(n))=\alpha \\ {t}_{1-\alpha }(n)=-t_{\alpha }(n) \end{gathered}$$

例：$X\sim N(2,1),Y_1,...,Y_4,N(0,4),彼此独立,T=\frac{4(X-2)}{\sqrt{{\sum }_{i=1}^4}{Y}_i^2},P(|T|>t_0)=0.01$

$$\begin{gathered} \frac{X-2}{1}\sim N(0,1),\frac{Y_i-0}{2}\sim N(0,1) \\ {\sum }_{i=1}^4(\frac{Y_i}{2}{)}^2\sim {\chi }^2(4),\frac{\frac{X-2}{1}}{\sqrt{{\sum }_{i=1}^4(\frac{Y_i}{2}{)}^2/4}}=\frac{4(X-2)}{\sqrt{{\sum }_{i=1}^4{Y}_i^2}}\sim t(4) \end{gathered}$$

$$\begin{gathered} P(T>t_0)=0.01/2=0.005 \\ {t}_0=4.604 \end{gathered}$$

F分布 $F(n_1,n_2)$

定理6.5：$X\sim {\chi }^2(n_1),Y\sim {\chi }^2(n_2),X、Y相互独立,\frac{X/n_1}{Y/n_2}\sim F(n_1,n_2)$

若$F\sim F(n_1,n_2)，则\frac{1}{F}\sim F(n_2,n_1)$

例：$X_1,...,X_6，N(0,{\sigma }^2),求\frac{2(x_1^2+x_2^2)}{x_3^2+x_4^2+x_5^2+x_6^2}$

$$\begin{gathered} \frac{x_i-0}{\sigma }\sim N(0,1) \\ \frac{x_1^2}{{\sigma }^2}+\frac{x_2^2}{{\sigma }^2}\sim {\chi }^2(2) \\ \frac{x_3^2}{{\sigma }^2}+\frac{x_4^2}{{\sigma }^2}+\frac{x_5^2}{{\sigma }^2}+\frac{x_6^2}{{\sigma }^2}\sim {\chi }^2(4) \end{gathered}$$

$\frac{(\frac{x_1^2}{{\sigma }^2}+\frac{x_2^2}{{\sigma }^2})/2}{(\frac{x_3^2}{{\sigma }^2}+\frac{x_4^2}{{\sigma }^2}+\frac{x_5^2}{{\sigma }^2}+\frac{x_6^2}{{\sigma }^2})/4}=\frac{2(x_1^2+x_2^2)}{x_3^2+x_4^2+x_5^2+x_6^2}\sim F(2,4)$

$P(F>F_{\alpha }(n_1,n_2))=\alpha$

$F_{1-\alpha }(n_1,n_2)=\frac{1}{F_{\alpha }(n_2,n_1)}$

$F\sim F(n_1,n_2),\frac{1}{F}\sim F(n_2,n_1)$

$$\begin{gathered} 1-\alpha =P(F>F_{1-\alpha }(n_1,n_2))=P(\frac{1}{F}<\frac{1}{F_{1-\alpha }(n_1,n_2)})=1-P(\frac{1}{F}\ge \frac{1}{F_{1-\alpha }(n_1,n_2)}) \\ P(\frac{1}{F}\ge \frac{1}{F_{1-\alpha }(n_1,n_2)})=\alpha \end{gathered}$$

$F_{\alpha }(n_2,n_1)=\frac{1}{F_{1-\alpha }(n_1,n_2)}$

例：$F\sim F(10,15),{\lambda }_1,{\lambda }_2,P(F>{\lambda }_1)=0.01,P(F\le {\lambda }_2)=0.01$

$$\begin{gathered} {\lambda }_1=F_{0.01}(10,15)=3.8 \\ P(F<{\lambda }_2)=1-P(F>{\lambda }_2)=0.01 \end{gathered}$$

$$\begin{gathered} P(F\le {\lambda }_2)=P(\frac{1}{F}\ge \frac{1}{{\lambda }_2})=0.01 \\ \frac{1}{F}\sim F(15,10) \\ {\lambda }_2=0.293 \end{gathered}$$

6.3.2 正态总体下的抽样分布

总体是正态分布，从中抽样本，构造出的统计量的分布？

定理6.6：一个正态总体： X ∼ N ( μ , σ 2 ) , { X 1 , . . . , X n } 样 本 , X ˉ = 1 n ∑ i = 1 n X i , S 2 = 1 n − 1 ∑ i = 1 n ( X 1 − X ˉ ) 2 X\sim N(\mu,\sigma^2),\{X_1,...,X_n\}样本,\bar X=\frac{1}{n}\sum_{i=1}^{n}X_i,S^2=\frac{1}{n-1}\sum_{i=1}^{n}(X_1-\bar X)^2 X∼N(μ,σ2),{X1​,...,Xn​}样本,Xˉ=n1​∑i=1n​Xi​,S2=n−11​∑i=1n​(X1​−Xˉ)2

(1)$\bar{X}\sim N(\mu ,\frac{{\sigma }^2}{n}),\frac{\bar{X}-\mu }{\frac{\sigma }{\sqrt{n}}}=\frac{\bar{X}-\mu }{\sigma }\sqrt{n}\sim N(0,1)$

$E(\bar{X})=E(\frac{1}{n}{\sum }_{i=1}^n{X}_i)=\frac{1}{n}{\sum }_{i=1}^{n}E(X_i)=\frac{1}{n}n\mu$

$D(\bar{X})=D(\frac{1}{n}{\sum }_{i=1}^n{X}_i)=\frac{1}{n^2}{\sum }_{i=1}^{n}D(X_i)=\frac{1}{n^2}n{\sigma }^2=\frac{{\sigma }^2}{n}$

(2)$\frac{(n-1)S^2}{{\sigma }^2}=\frac{1}{{\sigma }^2}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2\sim {\chi }^2(n-1)$←这里自由度是n-1，因为$\bar{X}$是样本均值，$\mu$是总体期望

(3)$\bar{X}与S^2独立$

定理6.7：

(1)$\frac{1}{{\sigma }^2}{\sum }_{i=1}^n(X_i-\mu {)}^2\sim {\chi }^2(n)$

将上式中的$\frac{1}{{\sigma }^2}$提到求和符号中得${\sum }_{i=1}^n(\frac{X_i-\mu }{\sigma }{)}^2$,求和符号中即为一次标准化过程，又因为标准正态分布取平方后的和为卡方分布

(2)$\frac{\bar{X}-\mu }{S}\sqrt{n}\sim t(n-1)$

$\frac{\bar{X}-\mu }{\sigma }\sqrt{n},\frac{(n-1)S^2}{{\sigma }^2}$

定理6.8：两个正态总体：

X ∼ N ( μ 1 , σ 1 2 ) , Y ∼ N ( μ 2 , σ 2 2 ) , { X 1 , . . . , X n 1 } 是 第 一 个 正 态 总 体 分 布 的 样 本 , { Y 1 , . . . , Y n 2 } 是 第 二 个 正 态 总 体 分 布 的 样 本 X\sim N(\mu_1,\sigma_1^2),Y\sim N(\mu_2,\sigma_2^2),\{X_1,...,X_{n_1}\}是第一个正态总体分布的样本,\\\{Y_1,...,Y_{n_2}\}是第二个正态总体分布的样本 X∼N(μ1​,σ12​),Y∼N(μ2​,σ22​),{X1​,...,Xn1​​}是第一个正态总体分布的样本,{Y1​,...,Yn2​​}是第二个正态总体分布的样本

(1)$\frac{(\bar{X}-\bar{Y})-({\mu }_1-{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{n_1}}+\frac{{\sigma }_2^2}{n_2}}\sim N(0,1)$

(2)$\frac{S_1^2/{\sigma }^2}{S_2^2/{\sigma }^2}\sim F(n_1-1,n_2-1)$

$$\begin{gathered} \frac{(n_1-1)S_1^2}{{\sigma }_1^2}\sim {\chi }^2(n_1-1) \\ \frac{(n_2-1)S_2^2}{{\sigma }_2^2}\sim {\chi }^2(n_2-1) \\ \frac{\frac{(n_1-1)S_1^2}{{\sigma }_1^2}/(n_1-1)}{\frac{(n_2-1)S_2^2}{{\sigma }_2^2}/(n_2-1)}\sim F(n_1-1,n_2-1) \end{gathered}$$

(3)当${\sigma }_1^2={\sigma }_2^2=\sigma$时,$T=\frac{(\bar{X}-\bar{Y})-({\mu }_1-{\mu }_2)}{\sqrt{\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}}\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2)$

例：

$X\sim N(\mu ,{\sigma }^2),\bar{X},S^2,n=16,求k,P(\bar{X}>\mu +kS)=0.95$

$\frac{\bar{X}-\mu }{S}\sqrt{n}=4\frac{(\bar{X}-\mu )}{S}\sim t(16-1)$

$$\begin{gathered} P(\bar{X}>\mu +kS)=P(\bar{X}-\mu >kS)=P(\frac{4(\bar{X}-\mu )}{S}>\frac{4kS}{S}) \\ =P(\frac{4(\bar{X}-\mu )}{S}>4k)=0.95 \end{gathered}$$

$4k=-1.753,k=-0.438$

例：

$X\sim N(\mu ,{\sigma }^2),(X_1,...,X_{n+1})为样本,{\bar{X}}_n,S_n^2为(X_1,...,X_n)的均值和方差$,求$\frac{X_{n+1}-\bar{X}}{S_n}\sqrt{\frac{n}{n+1}}$的分布

$\bar{X}\sim N(\mu ,\frac{{\sigma }^2}{n}),X_{n+1}\sim N(\mu ,{\sigma }^2),X_{n+1}-\bar{X}\sim N(0,(1+\frac{1}{n^2}){\sigma }^2)$

进行标准化

$U=\frac{X_{n+1}-\bar{X}}{\sigma \sqrt{\frac{n+1}{n}}}\sim N(0,1)$

$\frac{(n-1)S_n^2}{{\sigma }^2}\sim {\chi }^2(n-1)$

$\frac{\frac{X_{n+1}-\bar{X}}{\sigma \sqrt{\frac{n+1}{n}}}}{\sqrt{\frac{(n-1)S_n^2}{{\sigma }^2}/(n-1)}}\sim t(n-1)$