5、特征选择(filter)：方差分析(ANOVA)

一、方差分析（Analysis of Variance，简称ANOVA）基本原理

方差分析（ANOVA）又称“变异数分析”或“F检验”，是R.A.Fister发明的，用于两个及两个以上样本均数差别的显著性检验。

• step1、提出假设：判断连续变量和离散变量之间是否独立

• step2、如何构造统计量来判断两类样本均值差异程度

假设目前有n条数据被分成k组（即标签有k个类别），其中第j个类别中包含$n_j$条样本，并且$x_{i,j}$表示第j个类别的第i条样本，则有样本整体偏差计算公式如下：
$$SST=\sum _{j=1}^k\sum _{i=1}^{n_j}(x_{ij}-\bar{x}{)}^2$$

计算每个组内的样本与均值的差值的平方和，则可以算得如下结果：

$$SS{E}_j=\sum _{i=1}^{n_j}(x_{ij}-\overline{x_j}{)}^2$$

即第j组的组内偏差平方和，其中$\overline{x_j}=\frac{{\sum }_{i=1}^{n_j}{x}_{ij}}{n_j}$，为第j组数据的组内均值。而k个分组的组内偏差总和为：

S S E = ∑ j = 1 k S S E j = ∑ j = 1 k ∑ i = 1 n j ( x i j −