数据的标准化方法

转载自：http://blog.163.com/huai_jing@126/blog/static/171861983201321074124426/

数据的标准化（normalization）是将数据按比例缩放，使之落入一个小的特定区间。这样去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。

1、0-1标准化(0-1 normalization)

也叫离差标准化，是对原始数据的线性变换，使结果落到[0,1]区间，转换函数如下：

其中max为样本数据的最大值，min为样本数据的最小值。这种方法有一个缺陷就是当有新数据加入时，可能导致max和min的变化，需要重新定义。

2、Z-score 标准化(zero-mean normalization)

也叫标准差标准化，经过处理的数据符合标准正态分布，即均值为0，标准差为1，其转化函数为：

其中μ为所有样本数据的均值，σ为所有样本数据的标准差。

如果利用3σ进行规一化，落在 [-1 , 1] 之间的概率是99.7%，在实际应用中我们将落在[-1 , 1] 区间之外的值均设成-1和1，以保证所有的数值均落在[-1 , 1] 范围之内。matlab代码示例如下：

d = rand ( 1 , 100000 );
% gaussian normlization
t = ( d - mean ( d ))/( 3 * std ( d ));
% len0 = length ( find ( t > 3 * std ( t ))) + length ( find ( t <- 3 * std ( t )));
% len = length ( d );
% ratio = len0 / len ; % close to 0
t(t>1)=1;
t(t<-1)=-1;

注：是否要进行标准化，要根据具体实验定。如果特征非常稀疏，并且有大量的0（现实应用中很多特征都具有这个特点），Z-score 标准化的过程几乎就是一个除0的过程，结果不可预料。