数据预处理的方法小结

数据预处理

数据无量纲化

作用：使不同特征之间具有可比性

方法：标准化和归一化

1. 归一化 ，是指把需要处理的数据经过处理后（通过某种算法）限制在一定范围内，一般是0到1之间。
   为什么要归一化？
   (1)归一化可以加快学习的速度。如下图所示，由于量纲不一样，数据的分布像一个“椭圆”，收敛的时候梯度方向的变化比较剧烈。
   
   归一化后的数据，各个特征的权值相同，使得原来的数据分布变得更“圆”了，因此每次求得的梯度更加准确，模型收敛变得更加的平稳，更容易正确地收敛到最优解。
   

   (2)归一化有可能提高模型精度。例如KNN需要计算样本之间的距离，如果一个特征值域范围非常大，那么距离计算就主要取决于这个特征，从而与实际情况相悖（比如此时值域范围小的特征更重要）。

   最常用的方法有哪些？
   (1)Min-Max归一化，利用特征的最大最小值缩放数据。这种归一化方法对离群值敏感(例如Max值较大)，并且添加新数据时，Min和Ma