基于深度学习的工业品组件缺陷检测技术（二）

一、特征工程介绍

特征工程本质是一项工程活动，目的是最大限度地从原始数据中提取特征以供算法和模型使用。特征工程包含了数据预处理、特征提取、特征选择和特征构造等子问题。

二、特征选择

数据预处理完成后需要选择有意义的特征输入机器学习的算法和模型进行训练。根据特征选择和学习器的不同结合方式，特征选择分为过滤式（Filter）、封装式（Wrapper）、嵌入（Embedded）三种。

2.1 过滤式

早期的特征选择算法大多属于过滤式特征选择方法，该方法在进行模型训练之前需要对数据集进行特征选择，两者之间是相互独立的关系。特征选择是后者预处理过程，学习算法是前者验证过程。过滤式特征选择依照其特征选择框架的不同，又可以分为两类：基于特征排序和基于搜索策略。

2.1.1 基于特征排序

基于特征排序方法采用具体的评价准则给每个特征打分，根据得分对特征降序排序，选择前k个特征作为特征子集。基于特征排序的评价标准有Laplacian得分、Constraint得分、Fisher得分、Pearson 相关系数、互信息、MIC等。 

2.1.2 基于搜索策略

基于搜索策略方法不单单使用排序方式挑选子集，还会运用一些启发式规则，比如结合前向搜索策略。该框架在特征选择过程中，对特征子集进行综合评价，一定程度上减少了特征子集的冗余度，并且不需要每增加一个特征就构建学习器进行特征子集评价。