特征工程之特征选择(3)----F检验和互信息法

前言

前面已经讲了方差过滤和卡方过滤，如果这两种方法过滤后的数据还是不能令人满意，就可考虑这篇文章要将的F检验法，和互信息法。

F检验法

F检验概述

F检验又称为ANOVA，方差齐性检验，是用来捕捉标签与每个特征之间线性关系的过滤方法。F检验即可做分类也可以做回归

• 分类：feature_selection.f_classif(标签离散)
• 回归：feature_selection.f_regression(标签连续)
  与卡方检验一样，这两个方法都要和SelectKBest连用
  注意点：F检验对于正态分布的数据表现很好，所以再进行F检验之前我们可以考虑将数据归一化或标准化，标准化，归一化看这里
  K值可以设定，也可以通过p值计算出来，方法与卡方检验一样。

示例

这里使用的数据还是前面两篇博文使用的数据，这里直接使用方差过滤后的数据，关于方差过滤，可以看前面的博文。