特征工程常见执行步骤简述

对于机器学习算法工程师而言，机器学习算法原理及其使用只是工具，在实际工程中，真正具有重要意义的是概率统计、信号采样原理以及特征工程。

1、制定特征使用方案

首先就是基于业务需求，分析我们需要使用的数据，和现有可以获得的数据，尽可能的找出对因变量有影响的所有自变量；然后对数据可用性进行评估，包括获取难度、覆盖率、准确率等。

2、制定特征获取方案

分析从所获得的数据集中可以提取哪些特征，包括提取方式及存储方式等。

3、特征处理

①特征清洗

包括对异常样本进行清洗、对数据不平衡样本进行采样处理等。

②数据预处理

A.单个特征处理

依据所使用的算法类型，决定是否需要对单个特征进行预处理；包括对特征的归一化，连续特征的离散化，对缺失值的补齐，对文本类型特征的编码处理等。

B.多个特征处理

多个特征处理方面主要涉及到对特征的降维，以及对多个特征进行选择。特征降维常见方法有PCA与LDA，特征选择的常见方法有Filter（相关系数法，卡方检验，信息增益、互信息），Wrapper，Embedded。详见【机器学习】特征选择(Feature Selection)方法汇总 - 知乎

常见的六种特征选择方法：

1）DF(Document Frequency) 文档频率

DF:统计特征词出现的文档数量，用来衡量某个特征词的重要性

2&