数据的特征工程 入门详细教程(二)：特征选择与降维

关于数据特征的简介 数据特征的抽取及处理可见文章：
数据的特征工程 入门详细教程(一)：简介 数据特征的抽取及处理

特征选择

• 特征选择原因
  1. 冗余：部分特征的相关度高，容易消耗计算性能
  2. 噪声：部分特征对预测结果有负影响

特征选择是什么

• 特征选择就是单纯地从提取到的所有特征中选择部分特征作为训练集特征，特征在选择前和选择后可以改变值、也不改变值，但是选择后的特征维数肯定比选择前小，毕竟我们只选择了其中的一部分特征。
• 主要方法：
  1. Filter(过滤式): VarianceThreshold
  2. Embedded(嵌入式)：正则化、决策树
  3. Wrapper(包裹式)

sklearn 特征选择API

sklearn.feature_selection.VarianceThreshold

语法

VarianceThreshold(threshold = 0.0)
	# 删除所有低方差特征
	
	Variance.fit_transform(X,y)       
		# X:numpy array格式的数据[n_samples,n_features]
		# 返回值：训练集差异低于threshold的特征将被删除。
		# 默认值是保留所有非零方差特征，即删除所有样本
		# 中具有相同值的特征。

示例：

from sklearn.preprocessing import MinMaxScaler, StandardScaler
def stand():
    """
    标准化缩放
    :return:
    """
    std = StandardScaler()

    data = std.fit_transform([[ 1., -1., 3.],[ 2