特征工程-特征提取

特征工程

1、数据降维

2、特征提取

3、特征选择

二、特征提取

​ 特征提取是一个特征空间上的变换（映射），可以是线性和非线性的。所以特征提取与特征选择的不同之处在于，特征提取之后的特征已经不是原始特征了，而特征选择则是在原始的特征中选择出有价值的特征。既然，特征提取是一个空间上的映射，那么特征提取的问题就变成了选择合适的投影方向。选择合适的投影的方向就是必然有一个目标（保持损失最小），即目标函数。特征提取的方法很多，每一种方法都有因各自的目标不同而有不同的特性，下面笔者目标的形式将特征提取分为三类：成对保持，单点保持 ，