02.第二章 抽样分布及若干预备知识(1)

第二章 抽样分布及若干预备知识(1)

1.正态随机变量的线性组合

正态随机变量的线性组合：设随机变量$X_1,\cdots ,X_n$相互独立，且$X_k\sim N(a_k,{\sigma }_k^2)$，有常数$c_1,\cdots ,c_n$，记$T={\sum }_{k=1}^n{c}_k{X}_k$，则$T\sim N(\mu ,{\tau }^2),\mu ={\sum }_{k=1}^n{c}_k{a}_k,{\tau }^2={\sum }_{i=1}^n{c}_k^2{\sigma }_k^2$。即——独立正态变量的线性组合依然是正态变量。

• 正态分布的特征函数：$X\sim N(a,{\sigma }^2)$，其特征函数为$f_X(t)=e^{iat-\frac{1}{2}{\sigma }^2{t}^2}$。
• 特征函数的计算性质：如果$X_1,\cdots ,X_n$相互独立，且特征函数分别为$f_1(t),\cdots ,f_n(t)$，则$T={\sum }_{k=1}^n{c}_k{X}_k$的特征函数为$f_T(t)=f_1(c_{1}t)\cdots f_n(c_{n}t)$。

由以上结论可以很直观地得到正态总体样本均值的分布，因为正态总体里的每一个样本都独立同分布于总体，所以对于正态总体$N(a,{\sigma }^2)$，其样本均值$\bar{X}=\frac{1}{n}{\sum }_{k=1}^n{X}_k\sim N(a,\frac{{\sigma }^2}{n})$。

---

正态随机变量的线性变换：现设$X_1,\cdots ,X_n$为$N(a,{\sigma }^2)$中简单随机抽取的样本，记$\mathbf{X}=(X_1,\cdots ,X_n{)}^{\prime },\mathbf{Y}=(Y_1,\cdots ,Y_n{)}^{\prime },\mathbf{A}=(a_{ij}{)}_{n\times n}$，满足$\mathbf{Y}=\mathbf{A}\mathbf{X}$，即
$$\left(\begin{array}{c}{Y}_1\\ ⋮\\ Y_n\end{array}\right)=\left(\begin{array}{ccc}{a}_{11}& \cdots & a_{1n}\\ ⋮& & ⋮\\ a_{n1}& \cdots & a_{nn}\end{array}\right)\left(\begin{array}{c}{X}_1\\ ⋮\\ X_n\end{array}\right)$$
这里显然$Y_i={\sum }_{k=1}^n{a}_{ik}{X}_k$，所以有

• $Y_1,\cdots ,Y_n$也是正态随机变量，且$Y_i\sim N(a{\sum }_{k=1}^n{a}_{ik},{\sigma }^2{\sum }_{k=1}^n{a}_{ik}^2)$。
• 如果$\mathbf{A}$是正交阵（各行各列都是单位向量且两两正交），则各个$Y_i$的方差都是${\sigma }^2$，因为其行向量是单位向量，有${\sum }_{k=1}^n{a}_{ik}^2=1$。若进一步假定$a=0$，则各个$Y_i$均服从$N(0,{\sigma }^2)$，这说明正态分布$N(0,{\sigma }^2)$的随机变量经正交变换后依然独立地服从$N(0,{\sigma }^2)$（独立性参加下式协方差的值）。
• $Cov(Y_i,Y_j)=Cov(a_{i1}{X}_1+\cdots +a_{in}{X}_n,a_{j1}{X}_1+\cdots +a_{jn}{X}_n)$，由于$X_1,\cdots ,X_n$之间独立，所以$Cov(Y_i,Y_j)={\sigma }^2{\sum }_{k=1}^n{a}_{ik}{a}_{jk}$。

2.正态变量样本均值与样本方差

现讨论正态变量样本均值和方差的分布，设$X_1,\cdots ,X_n$简单随机服从$N(a,{\sigma }^2)$，令$\bar{X}=\frac{1}{n}{\sum }_{k=1}^n{X}_i,S^2=\frac{1}{n-1}{\sum }_{k=1}^n(\bar{X}-X{)}^2$。

首先是$\bar{X}$，由前面的讨论，显然有$\bar{X}\sim N(a,\frac{{\sigma }^2}{n})$。

对于$S^2$，有$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }_{n-1}^2$，这里${\chi }_{n-1}^2$是指$n-1$个独立的标准正态随机变量平方和的分布。要证明它，首先需要构造一个正交矩阵$\mathbf{A}$，且
$$\mathbf{A}=\left(\begin{array}{cccc}\frac{1}{\sqrt{n}}& \frac{1}{\sqrt{n}}& \cdots & \frac{1}{\sqrt{n}}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right)$$
即第一行全都是$\frac{1}{\sqrt{n}}$的正交阵，可以如此构造：
$$\mathbf{A}=\left(\begin{array}{ccccc}\frac{1}{\sqrt{n}}& \frac{1}{\sqrt{n}}& \frac{1}{\sqrt{n}}& \cdots & \frac{1}{\sqrt{n}}\\ \frac{1}{\sqrt{2\cdot 1}}& \frac{-1}{\sqrt{2\cdot 1}}& 0& \cdots & 0\\ \frac{1}{\sqrt{3\cdot 2}}& \frac{1}{\sqrt{3\cdot 2}}& \frac{-2}{\sqrt{3\cdot 2}}& \cdots & 0\\ ⋮& ⋮& ⋮& & ⋮\\ \frac{1}{\sqrt{n(n-1)}}& \frac{1}{\sqrt{n(n-1)}}& \frac{1}{\sqrt{n(n-1)}}& \cdots & \frac{-(n-1)}{\sqrt{n(n-1)}}\end{array}\right)$$
然后对样本进行正交变换$\mathbf{Y}=\mathbf{A}\mathbf{X}$，得到$Y_1=\frac{1}{\sqrt{n}}{\sum }_{k=1}^n{X}_k=\sqrt{n}\bar{X}$。将方差$S^2$进行变形，有
$$\begin{array}{lc}(n-1)S^2=& {\sum }_{k=1}^n(X_k-\bar{X}{)}^2={\sum }_{k=1}^n{X}_k^2+n{\bar{X}}^2-2\bar{X}{\sum }_{k=1}^n{X}_k\\ & {\sum }_{k=1}^n{X}_k^2-n{\bar{X}}^2\end{array}$$
由于之前证明了$Y_1=\sqrt{n}\bar{X}$，所以$Y_1^2=n{\bar{X}}^2$，又因为正交变换不改变向量的长度，所以${\sum }_{k=1}^n{X}_k^2={\sum }_{k=1}^n{Y}_k^2$，一代换便得到
$$(n-1)S^2=\sum _{k=2}^n{Y}_i^2$$
由于刚刚证明了正交变换后，各个$Y_i$的方差依然是${\sigma }^2$，如果接下来能够证得$Y_i$的均值是0，协方差是0，就可以得到我们需要的结论。

实际上，$Y_i$的均值是${\mu }_i=a{\sum }_{k=1}^n{a}_{ik}=a\sqrt{n}{\sum }_{k=1}^n\frac{1}{\sqrt{n}}{a}_{ik}$，求和部分内是矩阵$\mathbf{A}$第一个行向量与第$i$个行向量的内积，由正交性，就得到了${\mu }_i=0$。而任意两个$Y_i,Y_j$间的协方差是$Cov(Y_i,Y_j)={\sigma }^2{\sum }_{k=1}^n{a}_{ik}{a}_{jk}$，恰好是第$i$个行向量与第$j$个行向量的内积，因此协方差也为0。

这样，就说明$Y_2,\cdots ,Y_n$独立地服从$N(0,{\sigma }^2)$，也因此每一个$\frac{Y_i}{\sigma }$都独立服从$N(0,1)$，所以
$$(n-1)S^2=\sum _{k=2}^n{Y}_i^2={\sigma }^2\sum _{k=2}^n(\frac{Y_i}{\sigma }{)}^2,\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }_{n-1}^2$$
最后，由于$\bar{X}$只与$Y_1$有关，$S^2$只与$Y_2,\cdots ,Y_n$有关，也就顺便证得了$\bar{X}$与$S^2$独立。