【统计学笔记】第6章 统计量及其抽样分布

6.1 统计量

• 6.1.1 统计量的概率

  📖 统计量
  从某总体中抽取样本后，为了使统计推断成为可能，要把分散在样本中的信息集中起来，针对不同的研究目的，构造不同的样本函数，这种函数称为统计量。

  样本构造具体的统计量，实际上是对样本所含的总体信息按某种要求进行加工处理，把分散在样本中的信息集中到统计量的取值上，不同的统计推断问题要求构造不同的统计量。

• 6.1.2 常用统计量

  🔑 样本的均值

  $$\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$$

  反映总体X数学期望的信息。

  🔑 样本方差

  $$S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2$$

  反映总体X方差的信息。

  🔑 样本变异系数

  $$V=\frac{S}{\bar{X}}$$

  反映总体变异系数C（$=\frac{\sqrt{D(X)}}{E(X)}$）的信息。

  📖 变异系数反映出随机变量在以它的均值为单位时，取数的离散程度。
  此统计量笑出了均值不同对不同总体的离散程度的影响，常用来刻画均值不同时不同总体的离散程度，比如不同群里或行业的收入差距描述。

  🔑 样本k阶矩

  $$m_k=\frac{1}{n}\sum _{i=1}^n{X}_i^k$$

  🔑 样本k阶中心矩

  $$u_k=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^k$$

  🔑 样本偏度

  $${\alpha }_3=\sqrt{n-1}\frac{\sum _{i=1}^n(X_i-\bar{X}{)}^3}{(\sum _{i=1}^n(X_i-\bar{X}{)}^2{)}^{\frac{3}{2}}}$$

  🔑 样本峰度

  $${\alpha }_4=n-1\frac{\sum _{i=1}^n(X_i-\bar{X}{)}^4}{(\sum _{i=1}^n(X_i-\bar{X}{)}^2{)}^2}-3$$

  反映出总体峰度的信息。

📌 6.1.3 次序统计量
如果抽取的样本按照从小到大的顺序排列，那么就称对应的统计量为次序统计量。
比如：中位数、分位数、四分位数、样本极差

📌 6.1.4 充分统计量
统计量加工过程中一点信息都不损失的统计量称为充分统计量。

6.2 关于分布的几个概念

📌 6.2.1 抽样分布

统计推断的三个中心内容：抽样分布、参数估计和假设检验。
在总体X的分布类型已知时，若对任一自然数n，都能导出统计量T=T（X1，X2，…，Xn）的分布的数学表达式，这种分布称为精确的抽样分布。

📌 6.2.2 渐近分布
当n较大时，统计量T的极限分布作为抽样分布的一种近似，这种极限分布常称为渐进分布。

6.3 由正态分布导出的几个重要分布

• 6.3.1 ${\chi }^2$分布

  📌 ${\chi }^2$分布

  设随机变量X1，X2，…，Xn相互独立，且 Xi（i=1，2，…，n）服从标准正态分布 N（0，1），则它们的平方和$\sum _{i=1}^n{X}_i^2$服从自由度为n的${\chi }^2$分布。

  🔑 数学期望

  $$E({\chi }^2)=n$$

  🔑 方差

  $$D({\chi }^2)=2n$$

  🔑 可加性

  若${\chi }_1^2\sim {\chi }^2(n_1)$，${\chi }_2^2\sim {\chi }^2(n_2)$，且独立，则：

  $${\chi }_1^2+{\chi }_2^2\sim {\chi }^2(n_1+n_2)$$

  📖 当自由度增加到足够大时，${\chi }^2$的概率密度曲线趋于对称；
  当自由度n→+∞时，${\chi }^2$分布的极限分布是正态分布；

  ${\chi }_p^2(n)$，称为${\chi }^2(n)$的p分位数；当自由度n很大时，$\sqrt{2{\chi }^2(n)}$近似服从$N(\sqrt{2n-1},1)$。
  实际上，当自由度n>45时，有：

  $${\chi }_p^2(n)\approx \frac{1}{2}({\mu }_p+\sqrt{2n-1}{)}^2$$

• 6.3.2 t分布

  📌 t分布
  设随机变量$X～N（0，1）$，$Y～{\chi }^2(n)$，且X与Y独立，则$t=\frac{X}{\sqrt{Y/n}}$，其分布称为t分布，记为t（n），其中n为其自由度。

  t分布的密度函数是一偶函数；
  当n≥2时，t分布的数学期望$E(t)=0$；
  当n≥2时，t分布的数学期望$D(t)=\frac{n}{n-2}$；

  📌 柯西分布
  自由度为1的t分布。

  随着自由度n的增加，t分布的密度函数越来越接近标准正态分布的密度函数。
  一般当n≥30时，t分布与标准正态分布就非常接近。

  🔑 正态分布与t分布的关系

  设X1，X2，…，Xn是来自正态分布$N(\mu ，{\sigma }^2)$的一个样本，则：

  $$\frac{\sqrt{n}(\bar{X}-\mu )}{S}\sim t(n-1)$$

  其中$\bar{X}$是正态分布的均值，$S$为正态分布的标准差。

  🔑 两个正态分布与t的关系

  设X和Y是两个相互独立的总体，$XN({\mu }_1，{\sigma }^2)，YN({\mu }_2，{\sigma }^2)$，X1，X2，…，Xn是来自X的一个样本，Y1，Y2，…，Ym是来自Y的一个样本，则：

  $$\frac{(\bar{X}-\bar{Y})-({\mu }_1-{\mu }_2)}{S_{xy}}\sqrt{\frac{mn}{m+n}}\sim t(n+m-2)$$

  其中$S_{xy}^2=\frac{(n-1)S_x^2+(m-1)S_y^2}{n+m-2}$。

• 6.3.3 F分布

  📖 F分布
  设随机变量Y与Z相互独立，且Y和Z分别服从自由度为m和n的${\chi }^2$分布，随机变量X有如下表达式：$X=\frac{Y/m}{Z/n}=\frac{nY}{mZ}$，则称X服从第一自由度为m，第二自由度为n的F分布，简记为$X～F（m，n）$。

  🔑 数学期望

  $$E(X)=\frac{n}{n-2},n>2$$

  🔑 方差

  $$D(X)=\frac{2n^2(m+n-2)}{m(n-2)(n-4)},n>4$$

  🔑 P分位数

  $$F_p(v_1,v_2)=\frac{1}{F_{1-p}(v_2,v_1)}$$

  📖 F分布与t分布的关系
  如果随机变量X服从t(n)分布，则$X^2$服从$F(1,n)$的F分布

6.4 样本均值的分布与中心极限定理

📖 中心极限定理
设从均值为$\mu$、方差为${\sigma }^2$（有限）的任意一个总体中抽取样本量为n的样本，当n充分大时，样本均值$\bar{X}$的抽样分布近似服从均值为$\mu$、方差为${\sigma }^2/n$的正态分布。

📖 大样本、小样本
通常n≥30为大样本，反之为小样本，但这只是经验说法。

大样本、小样本之间并不是以样本量大小来区分的。
在样本量固定的条件下所进行的统计推断、问题分析，不管样本量有多大，都称为小样本问题；
在样本量$n\to \infty$的条件下进行的推断统计、问题分析，则称为大样本问题。

📖 案例：抽样样本对总体的概率计算

6.5 样本比例的抽样分布

📖 如果在样本大小为n的样本中具有某一特征的个体数为X，则样本比例为$\hat{p}=\frac{X}{n}$，可以用样本比例$\hat{p}$来估计总体比例$\pi$。

🔑 由二项分布和渐进分布的理论可知，当n充分大时，$\hat{p}$的分布可以用正态分布去逼近。
此时$\hat{p}$服从均值为$\pi$、方差为$\frac{\pi (1-\pi )}{n}$的正态分布，即：

$$\hat{p}\sim N(\pi ,\frac{\pi (1-\pi )}{n})$$

6.6 两个样本平均值之差的分布

🔑 设${\bar{X}}_1$是独立地抽自总体$X_1\sim N({\mu }_1,{\sigma }_1^2)$的一个容量为$n_1$的样本的均值，
设${\bar{X}}_2$是独立地抽自总体$X_2\sim N({\mu }_2,{\sigma }_2^2)$的一个容量为$n_2$的样本的均值，
则有：

$$E({\bar{X}}_1-{\bar{X}}_2)={\mu }_1-{\mu }_2$$

$$D({\bar{X}}_1-{\bar{X}}_2)=\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}$$

如果两个总体为正态分布，则${\bar{X}}_1-{\bar{X}}_2$也为正态分布，均值方差亦如上。

🔑 样本比例之差的抽样分布
设分别从具有参数为${\pi }_1$和参数为${\pi }_2$的二项总体中抽取包含$n_1$个观测值和$n_2$个观测值的独立样本，则两个样本比例差的抽样分布为：

$${\hat{p}}_1-{\hat{p}}_2=\frac{X_1}{n_1}-\frac{X_2}{n_2}$$

$$E({\hat{p}}_1-{\hat{p}}_2)={\pi }_1-{\pi }_2$$

$$D({\hat{p}}_1-{\hat{p}}_2)=\frac{{\pi }_1(1-{\pi }_1)}{n_1}+\frac{{\pi }_2(1-{\pi }_2)}{n_2}$$

当$n_1$和$n_2$很大时$，{\hat{p}}_1-{\hat{p}}_2$的抽样分布近似为正态分布，其均值方差亦如上。

6.7 关于样本方差的分布

🔑 样本方差的分布
设总体分布为$N(\mu ,{\sigma }^2)$的正态分布，则样本方差S^2的分布为：

$$(n-1)S^2/{\sigma }^2\sim {\chi }^2(n-1)$$

其中${\chi }^2(n-1)$为自由度为n-1的卡方分布

🔑 两个样本方差比的分布
设X1，X2，…，Xn1是来自正态总体$N({\mu }_1,{\sigma }_1^2)$的一个样本，Y1，Y2，…，Yn2是来自正态总体$N({\mu }_2,{\sigma }_2^2)$的一个样本，且Xi（i=1，2，…，n1）与Yi（i=1，2，…，n2）相互独立，则：

$$\frac{S_x^2/S_y^2}{{\sigma }_1^2/{\sigma }_2^2}=\frac{S_x^2/{\sigma }_1^2}{S_y^2/{\sigma }_2^2}\sim F(n_1-1,n_2-1)$$

其中：

$$S_x^2=\frac{1}{n_1-1}\sum _{i=1}^{n_1}(X_i-\bar{X}{)}^2$$

$$S_y^2=\frac{1}{n_2-1}\sum _{i=1}^{n_2}(Y_i-\bar{Y}{)}^2$$

$$\bar{X}=\frac{1}{n_1}\sum _{i=1}^{n_1}{X}_i$$

$$\bar{Y}=\frac{1}{n_2}\sum _{i=1}^{n_2}{Y}_i$$