抽样分布之χ2 分布，t分布，F分布

统计量的分布称为 抽样分布，在使用统计量进行统计推断时需要知道它的分布，当总体的分布函数已知时，抽样分布是确定的，然而要求出统计量的精确分布，一般来说是困难的，下面介绍来自正态总体的几个常用统计量的分布.

1. ${\chi }^2$ 分布

• 定义

  设$X_1,X_2,\cdots ,X_n$ 是来自总体$N(0,1)$的样本，则称统计量$${\chi }^2=\sum _{i=1}^n{X}_i^2,i=1,2,3\cdots ,n$$ 服从自由度为$n$的${\chi }^2$分布，记为${\chi }^2\sim {\chi }^2(n).$

  此处的自由度是指独立变量的个数

• ${\chi }^2$分布的概率密度

  $$f(y)=\{\begin{array}{l}\frac{1}{2^{n/2}\Gamma (n/2)}{y}^{n/2-1}{e}^{-y/2},y>0\\ \\ 0,else\end{array}$$

  其图像如下
  

  • 图像为单峰曲线
  • 图像为非对称图形
  • $n>2$时，在$n-2$处取得最大值
  • $n$越大，峰越往右，图像也越趋于对称，当$n$很大时，可近似看做正态分布

• ${\chi }^2$分布性质

  1. ${\chi }^2$分布的可加性

     设${\chi }_1^2\sim {\chi }^2(n_1),{\chi }_2^2\sim {\chi }^2(n_2)$，并且${\chi }_1^2,{\chi }_2^2$相互独立，则有$$\begin{array}{r}{\chi }_1^2+{\chi }_2^2\sim {\chi }^2(n_1+n_2)\end{array}$$

  2. ${\chi }^2$分的数学期望和方差

     $E({\chi }^2)=n,D({\chi }^2)=2n.$

     证明：

     由于 ${\chi }^2=\sum _{i=1}^n{X}_i^2$，其中$X_i\sim N(0,1)$ ,因此有

     $E(X_i^2)=D(X_i)+(E{X}_i{)}^2=1+0=1$

     因此 $E({\chi }^2)=n\ast E(X_i^2)=n$

     $\begin{array}{rl}D({\chi }^2)& =n\ast D(X_i^2)\\ & =n\ast [E(X_i^2{)}^2-E(X_i^2)]\\ & =n\ast [E(X_i^4)-E(X_i^2)]\\ & =nE(X_i^4)-n\end{array}$

     我们需要知道$E(X_i^4)$， 目前没有更好的方式，我们尝试使用期望的定义进行计算

     $\begin{array}{rl}E(X_i^4)& ={\int }_{-\infty }^{+\infty }{x}^4\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}dx\\ & =\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{x}^4{e}^{-\frac{x^2}{2}}dx\\ & =\frac{1}{\sqrt{2\pi }}[-x^3{e}^{-\frac{x^2}{2}}{|}_{-\infty }^{+\infty }+{\int }_{-\infty }^{+\infty }3x^2{e}^{-\frac{x^2}{2}}dx]\\ & =0+3{\int }_{-\infty }^{+\infty }\frac{1}{\sqrt{2\pi }}{x}^2{e}^{-\frac{x^2}{2}}dx\\ & =3{\int }_{-\infty }^{+\infty }{x}^2\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}dx\end{array}$

     这里对后面的积分项可继续采用分部积分方法进行处理，但是这地方其实有个技巧 ，根据期望定义有

     $\begin{array}{r}E(X_i^2)={\int }_{-\infty }^{+\infty }{x}^2\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}dx\end{array}$

     前面我们已经算出 $E(X_i^2)=1$

     因此有$\begin{array}{r}E(X_i^2)={\int }_{-\infty }^{+\infty }{x}^2\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}dx=1\end{array}$

     所以有$E(X_i^4)=3\ast 1=3$

     $\therefore D({\chi }^2)=nE(X_i^4)-n=3n-n=2n$

• ${\chi }^2$分布的分位点

  对于给定的正数$\alpha ,0<\alpha <1$，称满足条件 P { χ 2 > χ α 2 ( n ) } = ∫ χ α 2 ( n ) ∞ f ( y ) d y = α \begin{aligned} P\{\chi^2>\chi_\alpha^2(n)\} = \int_{\chi_\alpha^2(n)}^{\infty}f(y)dy = \alpha \end{aligned} P{χ2>χα2​(n)}=∫χα2​(n)∞​f(y)dy=α​ 的点 ${\chi }_{\alpha }^2(n)$为${\chi }^2(n)$分布的上$\alpha$分位点

---

• 补充$\Gamma$函数介绍

  $$\begin{array}{r}\Gamma (x)={\int }_0^{\infty }{t}^{x-1}{e}^{-t}dt.(x>0)\end{array}$$

  • 性质$1$

    $$\begin{array}{r}\Gamma (x+1)=x\Gamma (x)\end{array}$$

    • 推论1

    $\Gamma (2)=\Gamma (1)=1$

    • 推论2

    $\Gamma (\frac{1}{2})=\sqrt{\pi }$

    • 推论3

    $\Gamma (n+1)=n!$

  • 性质2

    对于$0<x<1，\Gamma (1-x)\Gamma (x)=\frac{\pi }{sin\pi x}$

• 补充 $\Gamma$分布介绍

  $\Gamma$分布是统计学的一种连续概率函数，是概率统计中一种非常重要的分布。指数分布和χ2分布都是伽马分布的特例

  • 假设随机变量$X$为等到第$\alpha$件事发生所需的等候时间, 密度函数为

    $$\begin{array}{r}f(x,\beta ,\alpha )=\frac{{\beta }^{\alpha }}{\Gamma (\alpha )}{x}^{\alpha -1}{e}^{-\beta x},x>0\end{array}$$

    其中参数$\alpha$为形状参数，$\beta$ 为逆尺度参数

  • $E(X)=\frac{\alpha }{\beta },D(X)=\frac{\alpha }{{\beta }^2}$

  • $\Gamma$分布具有可加性

  • 当形状参数α=1时，伽马分布就是参数为$\beta$的指数分布，即$X\sim E(\beta )$

  • 当$\alpha =\frac{n}{2}，\beta =\frac{1}{2}$时，伽马分布就是自由度为$n$的卡方分布，即$X\sim {\chi }^2(n)$

2. $t$分布

• 定义

  设$X\sim N(0,1),Y\sim {\chi }^2(n)$，且$X,Y$相互独立，则称随机变量$$t=\frac{X}{\sqrt{Y/n}}$$ 服从自由度为$n$的$t\text{t}t$分布 . 记为$t\sim t(n).$

• $t$分布概率密度

  $$\begin{array}{r}h(t)=\frac{\Gamma [(n+1)/2]}{\sqrt{\pi n}\Gamma (n/2)}(1+\frac{t^2}{n}{)}^{-(n+1)/2},-\infty <t<\infty \end{array}$$ 其图像如下

• 以0为中心，左右对称的单峰分布；

• $n$越小，曲线越低平；$n$越大，t分布曲线越接近标准正态分布曲线

• 当$n\ge 30$时，$t$分布近似于标准正态分布

• $t$分布的分位点

  对于给定的正数$\alpha ,0<\alpha <1$，称满足条件 P { t > t α ( n ) } = ∫ t α ( n ) ∞ h ( t ) d t = α \begin{aligned} P\{t>t_\alpha(n)\} = \int_{t_\alpha(n)}^{\infty}h(t)dt = \alpha \end{aligned} P{t>tα​(n)}=∫tα​(n)∞​h(t)dt=α​ 的点 $t_{\alpha }(n)$为$t(n)$分布的上$\alpha$分位点

  • 由$h(t)$图像的对称性可知$$t_{1-\alpha }(n)=-t_{\alpha }(n).$$

3. $F$分布

• 设$U\sim {\chi }^2(n_1),V\sim {\chi }^2(n_2)$，且$U,V$相互独立，则称随机变量$$F=\frac{U/n_1}{V/n_2}$$服从自由度为$(n_1,n_2)$的$F$分布，记为$F\sim F(n_1,n_2).$

• $F$分布概率密度

  $$\begin{array}{r}\psi (y)=\{\begin{array}{ll}\frac{\Gamma [(n_1+n_2)/2](n_1/n_2{)}^{n_1/2}{y}^{(n_1/2)-1}}{\Gamma (n_1/2)\Gamma (n_2/2)[1+(n_{1}y/n_2){]}^{(n_1+n_2)/2}},& y>0\\ & \\ 0,& else\end{array}\end{array}$$

  其图像为

• 由定义可知，若$F\sim F(n_1,n_2)$，则$$\frac{1}{F}\sim F(n_2,n_1)$$

• $F$分布的分位点

  对于给定的正数$\alpha ,0<\alpha <1$，称满足条件 P { F > F α ( n 1 , n 2 ) } = ∫ F α ( n 1 , n 2 ) ∞ ψ ( y ) d y = α \begin{aligned} P\{F>F_\alpha(n_1,n_2)\} = \int_{F_\alpha(n_1,n_2)}^{\infty}\psi(y)dy = \alpha \end{aligned} P{F>Fα​(n1​,n2​)}=∫Fα​(n1​,n2​)∞​ψ(y)dy=α​ 的点 $F_{\alpha }(n_1,n_2)$为$F(n_1,n_2)$分布的上$\alpha$分位点.

  • 分位点性质

    $$F_{1-\alpha }(n_1,n_2)=\frac{1}{F_{\alpha }(n_2,n_1)}.$$

    证明如下

    根据$F$分布分位点的定义可知

    P { F > F 1 − α ( n 1 , n 2 ) } = 1 − α ∴ P { 1 F < 1 F 1 − α ( n 1 , n 2 ) } = 1 − α 此 时 有 P { 1 F ≥ 1 F 1 − α ( n 1 , n 2 ) } = 1 − ( 1 − α ) = α 再 次 根 据 分 位 数 定 义 ， 有 1 F 1 − α ( n 1 , n 2 ) = 1 F α ( n 1 , n 2 ) ∴ F 1 − α ( n 1 , n 2 ) = 1 F α ( n 2 , n 1 ) \begin{aligned} P\{F>F_{1-\alpha}(n_1,n_2) \} &= 1-\alpha \\ \therefore P\{\frac{1}{F}<\frac{1}{F_{1-\alpha}(n_1,n_2)}\} &=1-\alpha \\此时有 P\{\frac{1}{F}\geq \frac{1}{F_{1-\alpha}(n_1,n_2)}\} &=1-(1-\alpha)=\alpha \\再次根据分位数定义，有\frac{1}{F_{1-\alpha}(n_1,n_2)}&=\frac{1}{F_{\alpha}(n_1,n_2)} \\ \therefore F_{1-\alpha}(n_1,n_2)&=\frac{1}{F_\alpha(n_2,n_1)}\end{aligned} P{F>F1−α​(n1​,n2​)}∴P{F1​<F1−α​(n1​,n2​)1​}此时有P{F1​≥F1−α​(n1​,n2​)1​}再次根据分位数定义，有F1−α​(n1​,n2​)1​∴F1−α​(n1​,n2​)​=1−α=1−α=1−(1−α)=α=Fα​(n1​,n2​)1​=Fα​(n2​,n1​)1​​