数据归一化和标准化是什么
数据的标准化(normalization)是将数据按比例缩放,使之落入一个小的特定区间。在某些比较和评价的指标处理中经常会用到,去除数据的单位限制,将其转化为无量纲的纯数值,便于不同单位或量级的指标能够进行比较和加权
-
归一化
将数据统一映射到[0,1]的范围内,消除不同数据之间的尺度和单位影响。公式:
x ∗ = x − x m i n x m a x − x m i n x^* = \frac{x-x_{min}} {x_{max}-x_{min}} x∗=xmax−xminx−xmin -
标准化(z-score)
处理的数据符合标准正态分布,即均值为0,标准差为1。不限制数据范围
公式:
x ∗ = x − μ σ x^* = \frac{x-μ} {σ} x∗=σx−μ
其中μ为所有样本数据的均值,σ为所有样本数据的标准差。
标准化和归一化的优缺点和适用范围
-
归一化
改变了原始数据的一个分布。
对不同特征维度的伸缩变换的目的是使各个特征维度对目标函数的影响权重是一致的,即使得那些扁平分布的数据伸缩变换成类圆形。1. 优点: - 提高迭代求解的收敛速度 - 提高迭代求解的精度 2. 缺点: 新加入数据,最大最小数据发生变化时,需要重新计算
-
标准化:
不改变原始数据的分布。
对不同特征维度的伸缩变换的目的是使得不同度量之间的特征具有可比性。1. 优点: - 使得不同度量之间的特征具有可比性,对目标函数的影响体现在几何分布上,而不是数值上。 - 不改变原始数据的分布 2. 缺点: 原始数据的分布可以近似为高斯分布(正态分布),否则效果会变得很糟糕
适用:在机器学习中有不同,后续学习了再来补充文章内容