特征工程概述
到底什么是特征工程,为什么需要特征工程?
这一切要从机器学习说起,为了提取知识和做出预测,机器学习使用数学模型来拟合数据;然而数据的表示形式各样,有文本、语音、图像、数值等等,它们并不能直接作为模型的输入。此时模型将特征作为输入,特征就是数据和模型之间的纽带,是原始数据在某个方面的数值表示。
特征工程:指从原始数据中提取特征并将其转换为适合机器学习模型的格式,特征工程没有统一的范式,正确的特征工程应该适合当前的任务。
为了更好理解特征工程的重要性,接下来我们梳理一下机器学习流程
机器学习流程
数据
数据是现实世界的现象的观测,例如一个人的生物特征数据和生活活动。
每份数据都是管中窥豹,只能反映一小部分现实,把这些观测结合起来才能得到一个完整的描述,其中存在测量噪声和缺失值。
从数据到知识的路上,充满了错误的开始和死胡同。“有意栽花花不发,无心插柳柳成荫。”就是最真实的写照,通过数据来理解世界就像是玩拼图,而且可能会有部件的缺失。
模型
数据的数学模型描述了数据不同部分之间的关系,通过数学公式将数值型的变量联系起来,但原始的数据经常不是数值型的,故此时需要用特征工程将数据和模型联系。
特征
特征是原始数据的数值表示,有多种方法可将原始数据转换为数值型的表示,所以特征可以有多种形式,正确的特征应该适合当前的任务,并易于被模型使用。
综述,特征工程将是在给定数据、模型和任务的情况下设计出最合适的特征工程。