特征提取

使用各种方法尽最大可能地从原始数据中提取出有价值的特征变量供模型所有，常用的特征提取方法有：

1. 行为特征提取：如何从交易型数据中提取用户的行为特征，典型的就是RFM指标
2. 文本特征提取：如何对一段文字或者一篇文档进行特征提取，用于文档分类和聚类等，典型的方法是TFIDF
3. 图像特征提取：如何提取一张图片的特征用于图像识别和搜索等，典型的特征有HOG、LBP、Haar，还有基于深度神经网络提取的深度特征
4. 基于已有特征进行组合得到新的特征：例如构造x1x2这样的组合特征
5. 特征降维：对大量的原始特征进行降维，提取数量较小的主成分作为新的特征，达到减少特征变量数量的目的
6. 基于模型的特征提取：例如决策树模型中，每一条样本所属的叶子节点编码就是一个非常重要的特征。