特征工程(Feature Engineering):将数据转换为能更好地表示潜在问题的特征,从而提高机器学习性能。
1、数据理解;2、数据清洗;3、特征构造;4、特征选择;5、类别不平衡。
数据理解的主要目的:1、定序数据:描述性质
a)定类:按名称分类---血型、城市。
b)定序:有序分类--成绩(A B C)。
2、定量数据:描述数量
a)定距:可以加减---温度、日期。
b)定比:可以乘除----价格、重量。
数据清洗的主要目的:提高数量质量,降低算法用错误数据建模的风险
特征构造 目的:增强数据表达,添加先验知识。
特征选择:目的:平衡预测能力和计算复杂度:降低噪声,增强模型的预测能力。
类别不平衡 缺点:少类别提供信息太少,没有学会如何判别少数类。
特征构造:1、训练集和测试集放在一起,方便构造特征。 2、不过要注意,数据里有时间出错的格式,所以我们需要errors=‘coerce’ 3、从邮编中提取城市信息,所以参考德国的邮编,相当于加入先验知识。4、计算某品牌的销售统计量,还可以计算其他特征的统计量。