归一化、标准化、中心化是对一组数值而言的,主要墓地是改变这一组数值的均值和分布范围。
- 归一化,把 min-max normalization 叫做归一化,也就是x=x - min(x) / max(x) - min(x)
- 标准化,把 z-score normalization 叫做标准化,也就是x=x - mean(x) / μ
- 中心化,所有数值都减去这组数值的平均值,那么这堆数值的平均值就变成了0。通常也叫零均值化。
- 正则化:通常是在损失函数后面添加一个惩罚项,来影响计算得到的损失值。惩罚项也是一个函数。