![1d55ebe80f62882b64ea66b2afa955ba.png](https://i-blog.csdnimg.cn/blog_migrate/3d9abee7e313a8014e3325251775a472.jpeg)
特征工程决定了模型的上限,算法模型只是逼近这个上限而已。
之前的一篇文章求知鸟:小练习:用python处理数据
提出了“完,全,合,一”的准则来对缺失数据,重复数据,空行数据做处理,可以提高数据“表面”的质量。
求知鸟:数据分析|数据处理之特征工程
这篇文章,讨论了异常数据处理和无量纲化处理(其实,异常数据处理的方法很多,使用场景也很宽泛);
接下来开始研究:
模型对输入数据有要求:
输入特征正态分布---Z评分归一化
输入特征高度偏斜,而我们想要输入特征正态---BOX-COX变换
类别型变量如何处理---哑编码
以及数据处理的重头戏---特征构造
拆解特征或组合特征
特征缩减---主成分分析
模型对输入数据有要求:
我们做回归预测时,为了保证每个指标的权重相等,排除量纲对预测值的影响,引入了Z评分归一化,将输入数据转换成均值为0,标准差为1的特征;
回归对数据有分布要求:数据呈现正态分布。