归一化处理公式_特征工程连续特征的常见处理方式（含实例）

最新推荐文章于 2025-03-13 07:13:30 发布

weixin_39829497

最新推荐文章于 2025-03-13 07:13:30 发布

阅读量3.6k

点赞数

文章标签：归一化处理公式

本文链接：https://blog.csdn.net/weixin_39829497/article/details/111341563

版权

本文介绍了特征工程中连续特征的处理方式，包括归一化和离散化。归一化涉及Min-Max、均值、小数定标和向量归一化等方法，有助于提升模型精度和收敛速度。离散化则包括二值化、等宽、等频和基于信息熵的分组策略，用于改善数据的比较性和模型性能。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

点击标题下「小小挖掘机」可快速关注

连续特征离散化可以使模型更加稳健，比如当我们预测用户是否点击某个商品时，一个点击该商品所属类别下次数为100次和一个点击次数为105次的用户可能具有相似的点击行为，有时候特征精度过高也可能是噪声，这也是为什么在LightGBM中，模型采用直方图算法来防止过拟合。连续特征经常是用户或者事物对应一些行为的统计值，常见的处理方法包括：

归一化
标准化
离散化
缺失值处理

这里要特别注意一下归一化和标准化的区别，在平常的使用中，很多同学都容易把这两者的概念混淆，因为两者的英文翻译是一样的(Feature scaling，特征缩放，参考维基百科 Feature scaling - Wikipedia)。但是根据其本意和实际用途(或者称之为公式)来理解是不一样的。

归一化

归一化一般是将数据映射到指定的范围，用于去除不同维度数据的量纲以及量纲单位，最常见的归一化方法有：

1、Min-Max 归一化

Min-Max 归一化是指对原始数据进行线性变换，将值映射到[0,1]之间。Min-Max 归一化的计算公式为：式中，为原始数据中的一个数据，表示原始数据中的最小值，表示原始数据中的最大值，为 Min-Max 归一化后的数据。

2、均值归一化

均值归一化是指通过原始数据中的均值、最大值和最小值来进行数据的标准化。均值归一化法计算公式为：式中，为原始数据中的一个数据，表示原始数据的均值，表示原始数据中的最大值，表示原始数据中的最小值，为均值归一化后的数据。

3、小数定标归一化

小数定标归一化是指通过移动小数点的位置来进行数据的归一化。小数点移动的位数取决于原始数据中的最大绝对值。小数定标归一化的计算公式为：式中，为原始数据中的一个数据，经过小数定标(Decimal scaling)归一化后的数据，表示满足条件的最小整数。例如，一组数据为[-309, -10, -43,87,344,970]，其中绝对值最大的是 970。使用小数定标归一化，用 1000(即 j=3)除以每个值。这样，-309 被归一化为-0.309，970 被归一化为 0.97。