单因素方差分析

数学模型

​ 把水平$A_i$下的试验结果$x_{i1},x_{i2},\cdots,x_{in_i}$看成来自第$i$个正态总体$X_i \sim N(\mu_i,\sigma^2)$的样本观察值，其中，$\mu$,$\sigma^2$未知，并且每个总体$X_i$都相互独立，考虑线性模型

$$x_{ij}=\mu _i+ \epsilon_{ij},i=1,2,\cdots,r,j=1,2,\cdots,n_i \tag 1$$
​ 其中， $\epsilon_{i,j} \sim ~ N(0,\sigma^2)$相互独立， $\mu _i$为第 $i$个总体的均值，$\epsilon_{ij}$为相应的试验误差。

​ 比较因素$A$的$r$个水平的差异归结为比较这$r$个总体均值，即检验假设：

$$H_0:\mu_1=\mu_2=\cdots=\mu_r,H_1:\mu_1,\mu_2,\cdots,\mu_r不全相等，\tag 2$$
​ 记，$\mu = \frac {1}{n}\sum \limits _{i=1}^{n} n_i\mu_i,n=\sum \limits _{i=1} ^{n} n_i,\alpha_i=\mu_i-\mu$i，其中$\mu$表示总和的均值，$\alpha_i$为水平$A_i$对指标的效应，不难验证$\sum \limits _{i=1} ^{r} n_i\alpha_i=0$。

​ 模型可以等价表示为

$$\begin{cases} x_{ij}=\mu_i+\epsilon_{ij} ,i=1,2,\cdots,r,j=1,2,\cdots,n_i;\\ \epsilon_{ij} \sim N(0,\sigma^2)且相互独立 \\ \sum \limits_{i=1}^rn_i\alpha_i=0 \tag 3 \end{cases}$$
​ 称模型 $(2)$为单因素方差分析数学模型，它是一个线性模型。

方差分析

 式$(2)$等价于：

$$H_0 ；\alpha_1=\alpha_2=\cdots=\alpha_r=0,H_1:\alpha_1,\alpha_2,\cdots,\alpha_r不全为零 \tag 4$$
 如果 $H_0$被拒绝，则说明因素 $A$各水平的效应之间有显著的差异，否则差异不明显。

以下导出$H_0$的检验统计量，方差分析法是建立在平方和分解和自由度分解的基础上的，考虑统计量：

$$S_T=\sum\limits_{i=1}^r \sum\limits _{j=1}^{n_i}(x_{ij}-\overline x)^2,\overline x=\frac {1}{n}\sum\limits_{i=1}^r \sum\limits _{j=1}^{n_i}x_{ij}$$
 称 $S_T$为总离差平方和（或称总变差），它是所有数据 $x_ij$与总平均值 $\overline x$的差的平方和，它描绘了所有数据的离散程度，可以证明如下平方和分解公式：
$$S_T=S_E+S_A \tag 5$$
其中：
$$S_T=\sum\limits_{i=1}^r \sum\limits _{j=1}^{n_i}(x_{ij}-\overline x_{i\cdot})^2,\overline x_{i\cdot} = \frac {1}{n}\sum \limits_{j=1}^{n_i} x_{ij},\\ S_A=\sum\limits_{i=1}^r \sum\limits _{j=1}^{n_i}(x_{i\cdot}-\overline x)^2=\sum\limits_{i=1}^rn_i(x_{i\cdot}-\overline x)^2$$
  $S_E$表示随机误差的影响，这是因为对于固定的 $i$来讲，观测值$x_{i1},x_{i2},\cdots,x_{in_i}$是来自同一个正态总体 $N(\mu_i,\sigma^2)$的样本，因此，他们之间的差异是由于随机误差所导致的，而 $\sum \limits _{j=1}^{n_i}(x_{ij}-\overline x_{i\cdot})^2$是这 $n_i$个数据的变动平方和，正是它们之间的差异大小的度量，将 $r$组这样的变动平方和相加，就得到了$S_E$，通常成 $S_E$为误差平方和或者组内平方和。

 $S_A$表示在水平$A_i$下样本均值与总均值之间的差异之后，它反映了$r$个总体均值之间的差异，因为$\overline x_{i\cdot}$是第$i$个总体的样本均值，它是$\mu_i$的估计，因此$r$个总体均值$\mu_1,\mu_2,\cdots,\mu_r$之间的差异越大，这些样本均值$\overline x_1,\overline x_2，\cdots,\overline x_r$之间的差异越大，平方和$\sum\limits_{i=1}^r \sum\limits _{j=1}^{n_i}(x_{i\cdot}-\overline x)^2$正是这种差异大小的度量，这里$n_i$反映了第$i$个总体的 样本大小在平方和$S_A$中的作用，称$S_A$为因素$A$的效应平方和或组间平方和。

 式表明，总平方和可按其来源分为两个部分，一部分是误差平方和，它是由随机误差引起的，另一部分是因素的效应平方和，它是因素各水平的差异引起的。

 式$(5)$表明，总平方和$S_T$可按其来源分为两个部分，一部分是误差平方和$S_E$，它是由随机误差引起的，另一部分是因素$A$的效应平方和$S_A$，它是因素$A$各水平的差异引起的。

由模型假设$(1)$，经过统计分析得到$E(S_E)=(n-r)\sigma^2$，即$\frac {S_E}{n-r}$是$\sigma^2$的一个无偏估计，且$\frac {S_E}{\sigma^2}\sim \chi^2(n-r)$。

如果假设$H_0$成立，则有$E(S_A)=(r-1)\sigma^2$，即$\frac {S_A}{r-1}$也是$\sigma^2$的一个无偏估计，且$\frac {S_E}{\sigma^2}\sim \chi^2(r-1)$，并且$S_E$和$S_A$独立，因此，当假设$H_0$成立是，有：

$$F = \frac {S_A/(r-1)}{S_E/(n-r)} \sim F(r-1,n-r) \tag 6$$
 于是 $F$ 可以作为$H_0$的检验统计量，对于给定的显著性水平 $\alpha$，用 $F_\alpha(r-1,n-r)$表示 $F$分布的上$\alpha$分位点，如果 $F>F_\alpha(r-1,n-r)$，则拒绝原假设，认为因素 $A$的$r$个水平有显著差异，可以通过计算 $p$值的方法来决定是接受还是拒绝$H_0$，其中 $p$值为$P\{F(r-1,n-r)>F\}$，它表示的是服从自由度为 $(r-1,n-r)$的 $F$分布的随机变量取值大于$F$的概率，显然， $p$值小于$\alpha$等价于 $F>F_\alpha(r-1,n-r)$，表示在显著性水平 $\alpha$下的小概率事件发生了，这意味着应该拒绝原假设 $H_0$，当 $p$值大于$\alpha$，则不能拒绝原假设，所以应该接受原假设 $H_0$。
 单因素方差分分析表为: