2020-10-13

为什么要对数据进行归一化处理

1. 数字比较大，容易爆计算量，更不容易收敛
2. 防止梯度爆炸
3. 复用他人超参数

归一化的目标

1. 把数变为（0，1）之间的小数
   主要是为了数据处理方便提出来的，把数据映射到0～1范围之内处理，更加便捷快速，应该归到数字信号处理范畴之内。
2. 把有量纲表达式变为无量纲表达式
   归一化是一种简化计算的方式，即将有量纲的表达式，经过变换，化为无量纲的表达式，成为纯量。 比如，复数阻抗可以归一化书写：Z = R + jωL = R(1 + jωL/R) ，复数部分变成了纯数量了，没有量纲。

在统计学中，归一化的具体作用是归纳统一样本的统计分布性

归一化的优点

1. 提升模型收敛速度
2. 提升模型精度
3. 深度学习中防止梯度爆炸