3.1 特征工程目标
- 对于特征进行进一步分析,并对于数据进行处理
- 完成关于特征工程的分析,并针对数据进行一些图表或文字总结
3.2 内容介绍
常见的特征工程包括:
- 异常处理:
- 通过箱线图(或3-Sigma)分析删除异常值
- BOX-COX转换(处理有偏分布)
- 长尾截断
- 特征归一化/标准化:
- 标准化(转换为标准正态分布)
- 归一化(转换到[0,1]区间)
- 针对幂律分布,可以采用公式
- 数据分桶:
- 等频分桶
- 等距分桶
- Best-KS分桶(类似利用基尼指数进行二分类)
- 卡方分桶
- 缺失值处理:
- 不处理(针对类似XGBoost等树模型)
- 删除(删除数据太多)
- 插值补全,包括均值/中位数/众数/建模预测/多重插补/压缩感知补全/矩阵补全等
- 分箱,缺失值一个箱
- 特征构造:
- 构造统计量特征,报告计数,求和,比例,标准差等
- 时间特征,包括相对时间和绝对时间,节假日,双休日等
- 地理信息,包括分箱,分布编码等方法
- 非线性变换,包括log /平方/根号等
- 特征组合,特征交叉
- 仁者见仁,智者见智
- 特征筛选
- 过滤式(filter):先对数据进行特征选择,然后在训练学习器,常见的方法有救济/方差选择发/相关系数法/卡方检验法/互信息法
- 包裹式(wrapper):直接把最终将要使用的学习器的性能作为特征子集的评价参数,常见方法有----- LVM(拉斯维加斯包装)
- 嵌入式(embedding):结合过滤式和包裹式,学习器训练过程中自动进行了特征选择,常见的有套索回归
- 降维
- PCA / LDA / ICA
- 特征选择也是一种降维
3.3 代码示例
3.3.0 导入数据
3.3.1 删除异常值
这里我写了一个异常值处理的代码,可以随便调用。
def outliers_proc(data, col_name, scale=3):
"""
用于清洗异常值,默认用box_plot(scale=3)进行清洗
:param data: 接收pandas数据格式
:param col_name:pandas列名
:param scale:尺度
:return:
"""
def box_plot_outliers(data_ser, box_scale):
"""
利用箱线图去除异常值
:param data_ser: 接收 pandas.Series 数据格式
:param box_scale: 箱线图尺度,
:return:
"""
iqr = box_scale * (data_ser.quantile(0.75) - data_ser.qua