[nlp] 数据预处理：归一化&标准化&PCA降维&ZCA

参考：https://www.cnblogs.com/pinard/p/6243025.html
参考：百度网盘ppt
参考：https

批归一化，就是标准化。

一、归一化（Normalization）

最大最小、平均、非线性归一化

１）数据处理更快 ：
把数据变成(０，１)或者（1,1）之间的小数。
２）统一量纲（去单位）：
有量纲表达式变成无量纲表达式，便于不同单位或量级的指标能够进行比较和加权。归一化是一种简化计算的方式，即将有量纲的表达式，经过变换，化为无量纲的表达式，成为纯量。
3）公式
（1）最大最小归一化 （Min-Max Normalization）
   x’ = (x - X_min) / (X_max - X_min)

（2）平均归一化 （数据平稳）
   x’ = (x - μ) / (X_max - X_min)

（1）和（2）有一个缺陷就是当有新数据加入时，可能导致max和min的变化，需要重新定义。