标准化,归一化和正则化

power0405hf

于 2016-12-04 20:24:22 发布

阅读量1.2w

点赞数 4

CC 4.0 BY-SA版权

分类专栏：算法数据挖掘机器学习文章标签：归一化标准化正则化 L2范数

本文链接：https://blog.csdn.net/power0405hf/article/details/53456162

本文介绍了数据预处理中的重要步骤——标准化、归一化和正则化。标准化通常使用z-score方法，将数据转换为均值为0，标准差为1的分布。归一化包括min-max标准化和log归一化，常用于缩小特征的数值范围，提升模型收敛速度和精度。正则化则是将样本缩放到单位范数，常用于文本分类和聚类中，可以使用sklearn库的相关函数进行处理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

0.参考文献

关于使用sklearn进行数据预处理 —— 归一化/标准化/正则化
2017.6.3更新：
数据标准化/归一化normalization
归一化与标准化

1.标准化

用的最多的是 z-score标准化

公式为 (X - mean)/ std

计算时对每个属性(每列)分别进行。
将数据按其属性(一般是按列)减去其均值，并除以其标准差，得到的结果是，对每个属性来说，所有数据都聚集在0附近，方差为1.
实现方式：
1. 使用sklearn.preprocessing.scale()函数，可以直接将给定数据进行标准化。

from sklearn import preprocessing
import numpy as np
X=np.array([[1,-1,2],
            [2,0,0],
            [0,1,-1]])
X_scaled = preprocessing.scale(X)
>>>X_scaled
array([[0. ...,-1.22...,1.33...],
      [ 1.22...,  0.  ..., -0.26...],
      [-1.22...,  1.22..., -1.06...]])
处理后的均值和方差:
X_scaled.mean(axis=0)
array([0,0,0])
X_scaled.std(axis=0)
array([1,1,1])