【超详细证明】皮尔逊（Pearson）统计量服从卡方分布（卡方检验）

作者：小猪快跑

基础数学&计算数学，从事优化领域7年+，主要研究方向：MIP求解器、整数规划、随机规划、智能优化算法

如有错误，欢迎指正。如有更好的算法，也欢迎交流！！！——@小猪快跑

相关教程

• 常用分布的数学期望、方差、特征函数
• 【推导过程】常用离散分布的数学期望、方差、特征函数
• 【推导过程】常用连续分布的数学期望、方差、特征函数
• Z分位数速查表
• 【概率统计通俗版】极大似然估计
• 【附代码&原理】正态分布检验
• 【附代码&原理】偏正态分布的数据处理方法
• 【超详图文】多少样本量用 t分布 OR 正态分布
• 【推导过程】常用共轭先验分布
• 【代码&原理】皮尔逊（Pearson）、斯皮尔曼（Spearman）和肯德尔（Kendall）相关性系数
• 【机器学习】【通俗版】EM算法（待更新）

预备知识

${\chi }^2$分布的定义

设 $X_1,\cdots ,X_n$ 独立，$X_i\sim N(a_i,1),i=1,\cdots n$，则 $X={\sum }_{i=1}^n{X}_i$ 的分布称为具自由度 $n$ 非中心参数 $\delta ={\left({\sum }_{i=1}^n{a}_i^2\right)}^{1/2}$

的 ${\chi }^2$ 分布，记为 $X\sim x_{n,\delta }^2$。当 $\delta =0$ 时，分布称为中心的，且记为 $X\sim x_n^2$。

${\chi }^2$分布的常用性质

设 $\mathbf{X}=(X_1,\cdots ,X_n{)}^{\prime },X_1,...,X_n$ 独立，
$$X_i\sim N(a_i,1),i=1,\cdots ,n$$
记 $\mathbf{a}=(a_1,\cdots ,a_n{)}^{\prime }$，$\mathbf{Y}={\mathbf{X}}^{\prime }\mathbf{A}\mathbf{X}$，$\mathbf{A}$ 为 $n$ 阶对称方阵。则 $\mathbf{Y}$ 服从 ${\chi }^2$ 分布的充要条件为 $\mathbf{A}$ 为幂等方阵，即 ${\mathbf{A}}^2=\mathbf{A}$。这时 $\mathbf{Y}\sim {\chi }_{r,\delta }^2$，其中 $r=\mathrm{rk}(\mathbf{A})$ 为 $\mathbf{A}$ 之秩，而 ${\delta }^2={\mathbf{a}}^{\prime }\mathbf{A}\mathbf{a}$。

证明：

1. 充分性：

   • 若 $\mathbf{A}$ 为幂等，则因其特征根只能为 0 和 1，且 1 的个数为 $r=\mathrm{rk}(\mathbf{A})$，故存在正交阵 $\mathbf{P}$，致

   $$\mathbf{PA}{\mathbf{P}}^{\prime }=\left(\begin{array}{cc}{\mathbf{I}}_{\mathbf{r}}& 0\\ 0& 0\end{array}\right)$$

   • 作正交变换 $\mathbf{Z}=(Z_1,\cdots ,Z_n{)}^{\prime }=\mathbf{P}\mathbf{X}$，知$\mathbf{Z}\sim N({\mathbf{P}}^{\prime }\mathbf{a},{\mathbf{I}}_n)$。但

   $$\mathbf{Y}={\mathbf{X}}^{\prime }\mathbf{A}\mathbf{X}={\mathbf{Z}}^{\prime }\mathbf{P}\mathbf{A}{\mathbf{P}}^{\prime }\mathbf{Z}=\sum _{i=1}^r{Z}_i^2$$

   • 由此知 $\mathbf{Y}\sim {\chi }_{r,\delta }^2$，其中

   $$\begin{array}{rl}{\delta }^2& =\sum _{i=1}^r(E{Z}_i{)}^2\\ & =(E\mathbf{Z}{)}^{\prime }\left(\begin{array}{cc}{\mathbf{I}}_{\mathbf{r}}& 0\\ 0& 0\end{array}\right)(E\mathbf{Z})\\ & =(E\mathbf{Z}{)}^{\prime }\mathbf{P}\mathbf{A}{\mathbf{P}}^{\prime }(E\mathbf{Z})\\ & =(E({\mathbf{P}}^{\prime }\mathbf{Z}){)}^{\prime }\mathbf{A}(E({\mathbf{P}}^{\prime }\mathbf{Z}))\\ & =(E\mathbf{X}{)}^{\prime }\mathbf{A}(E\mathbf{X})={\mathbf{a}}^{\prime }\mathbf{A}\mathbf{a}\end{array}$$

2. 必要性：

   • 我们先证明若$X\sim N(\mu ,{\sigma }^2)$，$\lambda X^2$的特征函数是${\phi }_Y(t)=(1-2it\lambda {\sigma }^2{)}^{-\frac{1}{2}}{e}^{\frac{i{\mu }^{2}t\lambda }{1-2it\lambda {\sigma }^2}}$

     • 设$X\sim N(\mu ,{\sigma }^2)$，令$Y=\lambda X^2$，其特征函数${\phi }_Y(t)=E(e^{itY})=E(e^{it\lambda X^2})$。根据期望的定义，${\phi }_Y(t)={\int }_{-\infty }^{+\infty }{e}^{it\lambda x^2}f(x)dx$，其中$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$是$X$的概率密度函数。
     • 先对指数部分进行化简：$it\lambda x^2-\frac{(x-\mu {)}^2}{2{\sigma }^2}=it\lambda x^2-\frac{x^2-2\mu x+{\mu }^2}{2{\sigma }^2}=(it\lambda -\frac{1}{2{\sigma }^2})x^2+\frac{\mu x}{{\sigma }^2}-\frac{{\mu }^2}{2{\sigma }^2}$。
     • 令 $a=it\lambda -\frac{1}{2{\sigma }^2}$，$b=\frac{\mu }{{\sigma }^2}$，$c=-\frac{{\mu }^2}{2{\sigma }^2}$，则积分变为 $\frac{1}{\sqrt{2\pi }\sigma }{\int }_{-\infty }^{+\infty }{e}^{a{x}^2+bx+c}dx$。
     • 对于积分 ${\int }_{-\infty }^{+\infty }{e}^{a{x}^2+bx+c}dx$，利用配方法将 $a{x}^2+bx+c$ 变形为 a ( x + b 2 a ) 2