数据集预处理之归一化

为什么要数据归一化Feature Scaling

1. 由于原始数据值的范围差异很大，因此在某些机器学习算法中，如果没有归一化，目标函数将无法正常工作。例如，许多分类器通过欧几里得距离来计算两点之间的距离。如果其中一个要素的取值范围较广，则该距离将受此特定要素支配。因此，所有特征的范围应归一化，以使每个特征对最终距离的贡献大致成比例

2. 可以使得梯度下降收敛更快

3. 如果将正则化用作损失函数的一部分，则数据归一化也很重要（以便适当地对系数进行惩罚）

归一化的优点

1. 提升模型的收敛速度

左图：归一化前 右图：归一化后

2. 提高模型精度

常用方法

1. 均值方差归一化 Zero-mean normalization

$$x=\frac{x-\bar{x}}{\sigma }$$

​ 又叫标准化Standardization，处理后的数据满足标准正态分布

​ 可见，归一化包含标准化，标准化只是归一化的一种

2. Min-max normalization

x = x − x