应用机器学习-特征工程

Applied Machine Learning: Feature Engineering

机器学习的流程

特征工程是什么

一项幕后工作，把数据整理干净；提取出机器学习模型可以理解的特征；

为什么特征工程重要

信息的质量只会随着使用而衰减。如果进入模型的是垃圾，出的也是垃圾；大部分模型的成功都是特征工程的成功。

更好的特征意味着更好的灵活性、更简单的模型（往往意味着更高的可解释性，可修正性）、和更好的结果。

特征工程工具

工具	内涵
常识、专家建议	在实验之前就知道的重要影响特征，确保这些特征在你的模型里；
（举例）	以信用卡盗刷为例，在从未使用过的国家或时间段使用信用卡可能是盗刷的特征
特征筛选	去掉不相关的特征
（举例）	以信用卡盗刷为例，持卡人生日等信息
清洗已有的特征	缺失值填充；剔除异常值；数据正规化；长尾数据调整
（举例）
拆分或组合特征	把日期数据拆成星期几；把狗狗和猫猫的数量合并为宠物的数量；

分箱（Binning）

变量最优分箱

变量分箱是一种数据预处理手段。
变量分箱默认将数值型变量进行离散化操作，如果要执行分箱的是离散型变量，则可先转为数值型变量，再进行分箱。
变量分箱方法主要包括有监督分箱和无监督分箱。

我们为什么要分箱？

分箱可以将连续要素转换为分类要素，从而简化模型，如果有有非线性关系。则分箱可以帮助处理这些关系。还可以通过分箱减少噪声和异常值。另外，如果您的数据有些跳跃，则可以将其装箱以使其更简单。