机器学习_特征处理

内容来源于其他博客，这里做了个汇总，侵删。

标准化归一化数据

数据标准化是将数据按比例缩放，使之落入一个小的特定区间。去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。最典型的就是数据的归一化处理，即将数据统一映射到[0,1]区间上。

归一化的作用：
1. 提升模型的收敛速度
  如下图，x1的取值为0-2000，而x2的取值为1-5，假如只有这两个特征，对其进行优化时，会得到一个窄长的椭圆形，导致在梯度下降时，梯度的方向为垂直等高线的方向而走之字形路线，这样会使迭代很慢，相比之下，右图的迭代就会很（步长走多走少方向总是对的，不会走偏）

2.提升模型的精度
  在多指标评价体系中，由于各评价指标的性质不同，通常具有不同的量纲和数量级。当各指标间的水平相差很大时，如果直接用原始指标值进行分析，就会突出数值较高的指标在综合分析中的作用，相对削弱数值水平较低指标的作用。

归一化常用方法：

方法一：min-max标准化(Min-max normalization)/0-1标准化(0-1 normalization)

公式如下。

$$x^*=\frac{x-min}{max - min}$$
其中max为样本数据的最大值，min为样本数据的最小值。
或者

x∗=x−xmean