数据标准化(归一化)处理是数据挖掘的一项基础工作,不同评价指标往往具有不同的量纲和量纲单位,这样的情况会影响到数据分析的结果,为了消除指标之间的量纲影响,需要进行数据标准化处理,以解决数据指标之间的可比性。原始数据经过数据标准化处理后,各指标处于同一数量级,适合进行综合对比评价。以下是两种常用的归一化方法:
一、min-max标准化(Min-Max Normalization)
也称为离差标准化,是对原始数据的线性变换,使结果值映射到[0 - 1]之间。转换函数如下:
其中max为样本数据的最大值,min为样本数据的最小值。这种方法有个缺陷就是当有新数据加入时,可能导致max和min的变化,需要重新定义。
def MinMax(inputs):
# 归一化输入,输出
_inputs = np.array(inputs).T
for i in range(np.shape(_inputs)[0]):
mi = _inputs[i].min()
ma = _inputs[i].max()
for j in range(np.shape(_inputs[i])[0]):
_inputs[i][j] = (_inputs[i][j]-mi)/(ma-mi)
_inputs = _inputs.T
return _inputs
二、Z-score标准化方法
这种方法给予原始数据的均值(mean)和标准差(standard deviation)进行数据的标准化。经过处理的数据符合标准正态分布,即均值为0,标准差为1,转化函数为:
其中 μ为所有样本数据的均值,σ为所有样本数据的标准差。
def Zscore(inputs):
# 归一化输入,输出
_inputs = np.array(inputs).T
for i in range(np.shape(_inputs)[0]):
n = np.shape(_inputs)[1]
avg = _inputs[i].sum()/n
sd = 0
for j in range(np.shape(_inputs[i])[0]):
sd += (_inputs[i][j] - avg)**2
sd = (sd/(n-1))**0.5
for j in range(np.shape(_inputs[i])[0]):
_inputs[i][j] = (_inputs[i][j] - avg)/sd
_inputs = _inputs.T
return _inputs
二、Pytorch标准化方法
https://blog.csdn.net/lpj822/article/details/104714206/