数据预处理

最新推荐文章于 2021-11-16 22:59:53 发布

功夫大笨鲨

最新推荐文章于 2021-11-16 22:59:53 发布

阅读量236

点赞数 2

分类专栏：数据预处理与特征工程文章标签：机器学习

本文链接：https://blog.csdn.net/m0_50572604/article/details/120938860

版权

数据预处理与特征工程专栏收录该内容

3 篇文章 0 订阅

订阅专栏

文章目录

前言
一、数据无量纲化
二、缺失值处理
- 2.1我们使用impute.SimpleImputer来实现这个功能
- 2.2 也可用Pandas和Numpy进行填补，其实更加简单，随便用哪个
三、处理分类型特征：编码与哑变量
四、处理连续型特征：二值化与分段
- 4.1 数据二值化sklearn.preprocessing.Binarizer
- 4.2 连续型变量划分为分类变量preprocessing.KBinsDiscretizer
总结

前言

数据来源于菜菜的课堂

一、数据无量纲化

在机器学习算法实践中，我们往往有着将不同规格的数据转换到同一规格，或不同分布的数据转换到某个特定分布的需求，这种需求统称为将数据“无量纲化”。

譬如梯度和矩阵为核心的算法中，譬如逻辑回归，支持向量机，神经网络，无量纲化可以加快求解速度；
在距离类模型，譬如K近邻，K-Means聚类中，无量纲化可以帮我们提升模型精度，避免某一个取值范围特别大的特征对距离计算造成影响
一个特例是决策树和树的集成算法们，对决策树我们不需要无量纲化，决策树可以把任意数据都处理得很好。

数据的无量纲化可以是线性的，也可以是非线性的。线性的无量纲化包括中心化（Zero-centered或者Meansubtraction）处理和缩放处理（Scale）。

中心化的本质是让所有记录减去一个固定值，即让数据样本数据平移到某个位置。缩放的本质是通过除以一个固定值，将数据固定在某个范围之中，取对数也算是一种缩放处理

1.1 数据归一化

当数据(x)按照最小值中心化后，再按极差（最大值 - 最小值）缩放，数据移动了最小值个单位，并且会被收敛到[0,1]之间，而这个过程，就叫做数据归一化(Normalization，又称Min-Max Scaling)。

注意，Normalization是归一化，不是正则化，真正的正则化是regularization，不是数据预处理的一种手段

归一化之后的数据服从正态分布，公式如下：
$x^*=\frac{x-min(x)}{max(x)-min(x)}$

在sklearn当中，我们使用preprocessing.MinMaxScaler来实现这个功能。MinMaxScaler有一个重要参数，feature_range，控制我们希望把数据压缩到的范围，默认是[0,1]

通常在实际应用中，通过梯度下降求解的模型是需要归一化的，包括线性回归、逻辑回归、支持向量机、神经网络模型等。然而并不适用于决策树模型，因为决策树在划分子树时依据的是信息增益（或基尼系数等），而信息增益与特征是否经过归一化是无关的，因为归一化并不会改变样本在特征上的信息增益

1.1.1 不加feature_range，默认是[0,1]

from sklearn.preprocessing import MinMaxScaler#归一化
import pandas as pd

data = [[-1,2],[-0.1,8],[1,10],[5,20]]
#可以通过DataFrame来查看data的样式
pd.DataFrame(data)

#实现归一化
scaler = MinMaxScaler() #实例化
scaler = scaler.fit(data) #fit，在这里本质是生成min(x)和max(x)
result = scaler.transform(data) #通过接口导出结果
>result
>array([[0.        , 0.        ],
       [0.15      , 0.33333333],
       [0.33333333, 0.44444444],
       [1.        , 1.        ]])

#可以将fit和transform合并，使训练和导出结果一步达成
result_ = scaler.fit_transform(data)

scaler.inverse_transform(result) #将归一化后的结果逆转
>array([[-1. ,  2. ],
       [-0.1,  8. ],
       [ 1. , 10. ],
       [ 5. , 20. ]])

1.1.2 使用MinMaxScaler的参数feature_range实现将数据归一化到[0,1]以外的范围中

scaler = MinMaxScaler(feature_range=[5,10])
result = scaler.fit_transform(data)
>result
>array([[ 5.        ,  5.        ],
       [ 5.75      ,  6.66666667],
       [ 6.66666667,  7.22222222],
       [10.        , 10.        ]])

1.1.3 使用numpy来实现归一化

import numpy as np
x = np.array([[-1,2],[-0.1,8],[1,10],[5,20]])

x_nor = (x-x.min(axis=0))/(x.max(axis=0)-x.min(axis=0))
>x_nor
>array([[0.        , 0.        ],
       [0.15      , 0.33333333],
       [0.33333333, 0.44444444],
       [1.        , 1.        ]])

x_returned = x_nor*(x.max(axis=0)-x.min(axis=0))+x.min(axis=0)
>x_returned
>array([[-1. ,  2. ],
       [-0.1,  8. ],
       [ 1. , 10. ],
       [ 5. , 20. ]])

1.2 数据标准化

当数据(x)按均值(μ)中心化后，再按标准差(σ)缩放，数据就会服从为均值为0，方差为1的正态分布（即标准正态分布），而这个过程，就叫做数据标准化(Standardization，又称Z-score normalization)，公式如下：
$x^*=\frac{x-μ}{σ}$

在sklearn当中，我们使用preprocessing.StandardScaler来实现这个功能

from sklearn.preprocessing import StandardScaler

data =  [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]

scaler = StandardScaler() #实例化
scaler.fit(data)  #fit，本质是生成均值和方差

#查看均值的属性mean_
scaler.mean_
#因为数据是两列的二维数组，mean_是按照特征的列来求取平均值，有两个特征，所以结果是两个
>array([-0.125,  9.   ])

#查看方差的属性var_
scaler.var_
#因为数据是两列的二维数组，var_是按照特征的列来求取方差，有两个特征，所以结果是两个
>array([ 0.546875, 35.      ])

x_std = scaler.transform(data) #通过接口导出结果

#导出的结果是一个数组，用mean()查看均值
x_std.mean()
#用std()查看方差
x_std.std()

scaler.fit_transform(data) #使用fit_transform(data)一步达成结果
scaler.inverse_transform(x_std) #使用inverse_transform逆转标准化

1.3 StandardScaler和MinMaxScaler选哪个？

大多数机器学习算法中，会选择StandardScaler来进行特征缩放，因为MinMaxScaler对异常值非常敏感。在PCA，聚类，逻辑回归，支持向量机，神经网络这些算法中，StandardScaler往往是最好的选择
MinMaxScaler在不涉及距离度量、梯度、协方差计算以及数据需要被压缩到特定区间时使用广泛，比如数字图像处理中量化像素强度时，都会使用MinMaxScaler将数据压缩于[0,1]区间之中。
建议先试试看StandardScaler，效果不好换MinMaxScaler。

除了StandardScaler和MinMaxScaler之外，sklearn中也提供了各种其他缩放处理（中心化只需要一个pandas广播一下减去某个数就好了，因此sklearn不提供任何中心化功能）。

在希望压缩数据，却不影响数据的稀疏性时（不影响矩阵中取值为0的个数时），我们会使用MaxAbsScaler
在异常值多，噪声非常大时，我们可能会选用分位数来无量纲化，此时使用RobustScaler
更多详情请参考以下列表

在这里插入图片描述

二、缺失值处理

机器学习和数据挖掘中所使用的数据，永远不可能是完美的。很多特征，对于分析和建模来说意义非凡，但对于实际收集数据的人却不是如此，因此数据挖掘之中，常常会有重要的字段缺失值很多，但又不能舍弃字段的情况。因此，数据预处理中非常重要的一项就是处理缺失值。
下面使用的泰坦尼克号是菜菜重新编辑的泰坦尼克号案例

2.1我们使用impute.SimpleImputer来实现这个功能

在学习随机森林的案例时，我们用这个类和随机森林回归填补了缺失值，对比了不同的缺失值填补方式对数据的影响。这个类是专门用来填补缺失值的。它包括四个重要参数：

参数	含义&输入
missing_values	告诉SimpleImputer，数据中的缺失值长什么样，默认空值np.nan
strategy	我们填补缺失值的策略，默认均值。输入“mean”使用均值填补（仅对数值型特征可用）输入“median"用中值填补（仅对数值型特征可用）输入"most_frequent”用众数填补（对数值型和字符型特征都可用）输入“constant"表示请参考参数“fill_value"中的值（对数值型和字符型特征都可用）
fill_value	当参数startegy为”constant"的时候可用，可输入字符串或数字表示要填充的值，常用0
copy	默认为True，将创建特征矩阵的副本，反之则会将缺失值填补到原本的特征矩阵中去。

----案例开始----

import pandas as pd
#如果read_csv内加上index_col=0，就让第一列充当序号，这里没有加，可以同2.2对比
data = pd.read_csv('Narrativedata.csv')
data.head()

在这里插入图片描述

data.info()

在这里插入图片描述

#sklearn当中特征矩阵必须是二维，series是一维的，所以需要升维
Age = data.loc[:,'Age'].values.reshape(-1,1)
Age[:20]

在这里插入图片描述

from sklearn.impute import SimpleImputer
import numpy as np

#missing_values=np.nan可以不写，默认就是np.nan
#实例化，如果不填写参数默认均值填补
imp_mean = SimpleImputer(missing_values=np.nan,strategy='mean')
#用中位数填补
imp_median = SimpleImputer(missing_values=np.nan,strategy='median')
#用0填补
imp_0 = SimpleImputer(missing_values=np.nan,strategy='constant',fill_value=0)

#fit_transform一步完成调取结果
imp_mean = imp_mean.fit_transform(Age)
imp_median = imp_median.fit_transform(Age)
imp_0 = imp_0.fit_transform(Age)

#简单查看填充完之后的样子
imp_mean[:,20]
imp_median[:,20]
imp_0[:,20]

#在这里我们使用中位数填补Age
data.loc[:,'Age'] = imp_median
data.info()

在这里插入图片描述

#使用众数填补Embarked，正常来说这种情况可以直接使用dropna删除这两行，这里为了学习，使用众数填补
Embarked = data.loc[:,'Embarked'].values.reshape(-1,1)
data.loc[:,'Embarked'] = SimpleImputer(missing_values=np.nan,strategy='most_frequent').fit_transform(Embarked)
data.info()

在这里插入图片描述

2.2 也可用Pandas和Numpy进行填补，其实更加简单，随便用哪个

data = pd.read_csv('Narrativedata.csv',index_col=0)
data.loc[:,'Age'] = data.loc[:,'Age'].fillna(data.loc[:,'Age'].median())
data.dropna(axis=0,inplace=True)
data.info()

在这里插入图片描述

三、处理分类型特征：编码与哑变量

在机器学习中，大多数算法，譬如逻辑回归，支持向量机SVM，k近邻算法等都只能够处理数值型数据，不能处理文字，在sklearn当中，除了专用来处理文字的算法，其他算法在fit的时候全部要求输入数组或矩阵，也不能够导入文字型数据（其实手写决策树和普斯贝叶斯可以处理文字，但是sklearn中规定必须导入数值型）。

然而在现实中，许多标签和特征在数据收集完毕的时候，都不是以数字来表现的。比如说，学历的取值可以是[“小学”，“初中”，“高中”，“大学”]，付费方式可能包含[“支付宝”，“现金”，“微信”]等等。在这种情况下，为了让数据适应算法和库，我们必须将数据进行编码，即是说，将文字型数据转换为数值型。

3.1 preprocessing.LabelEncoder：标签专用，能够将分类转换为分类数值

from sklearn.preprocessing import LabelEncoder

y = data.loc[:,'Survived'] #要输入的是标签，不是特征矩阵，所以允许一维

le = LabelEncoder() #实例化
le.fit(y) #导入数据
label = le.transform(y) #transform接口调取结果

#上卖弄的步骤可以用一句话直接全部概况，熟悉了可以直接这么写
data.iloc[:,-1] = LabelEncoder().fit_transform(data.iloc[:,-1])

le.fit_transform(y) #也可以直接fit_transform一步到位
le.inverse_transform(label) #使用inverse_transform可以逆转,从数字变为No，Yes等

le.classes_  #属性.classes_查看标签中究竟有多少类别

在这里插入图片描述

label

在这里插入图片描述

3.2 preprocessing.OrdinalEncoder：特征专用，能够将分类特征转换为分类数值

from sklearn.preprocessing import OrdinalEncoder

data_ = data.copy()

data_.head()

在这里插入图片描述

#接口categories_对应LabelEncoder的接口classes_，一模一样的功能
OrdinalEncoder().fit(data_.iloc[:,1:-1]).categories_

在这里插入图片描述

data_.iloc[:,1:-1] = OrdinalEncoder().fit_transform(data_.iloc[:,1:-1])
data_.head()

在这里插入图片描述

3.3 preprocessing.OneHotEncoder：独热编码，创建哑变量

我们刚才已经用OrdinalEncoder把分类变量Sex和Embarked都转换成数字对应的类别了。在舱门Embarked这一列中，我们使用[0,1,2]代表了三个不同的舱门，然而这种转换是正确的吗？

我们来思考三种不同性质的分类数据：
1）舱门（S，C，Q）
三种取值S，C，Q是相互独立的，彼此之间完全没有联系，表达的是S≠C≠Q的概念。这是名义变量。

2）学历（小学，初中，高中）
三种取值不是完全独立的，我们可以明显看出，在性质上可以有高中>初中>小学这样的联系，学历有高低，但是学历取值之间却不是可以计算的，我们不能说小学 + 某个取值 = 初中。这是有序变量。

3）体重（>45kg，>90kg，>135kg）
各个取值之间有联系，且是可以互相计算的，比如120kg - 45kg = 90kg，分类之间可以通过数学计算互相转换。这是有距变量。

然而在对特征进行编码的时候，这三种分类数据都会被我们转换为[0,1,2]，这三个数字在算法看来，是连续且可以计算的，这三个数字相互不等，有大小，并且有着可以相加相乘的联系。所以算法会把舱门，学历这样的分类特征，都误会成是体重这样的分类特征。这是说，我们把分类转换成数字的时候，忽略了数字中自带的数学性质，所以给算法传达了一些不准确的信息，而这会影响我们的建模。

类别OrdinalEncoder可以用来处理有序变量，但对于名义变量，我们只有使用哑变量的方式来处理，才能够尽量向算法传达最准确的信息：
在这里插入图片描述
这样的变化，让算法能够彻底领悟，原来三个取值是没有可计算性质的，是“有你就没有我”的不等概念。在我们的数据中，性别和舱门，都是这样的名义变量。因此我们需要使用独热编码，将两个特征都转换为哑变量。

from sklearn.preprocessing import OneHotEncoder

x = data.iloc[:,1:-1]

#categories='auto'这个在新版本可用，sklearn会自己寻找特征
enc = OneHotEncoder(categories='auto').fit(x)
result = enc.transform(x).toarray()

#可以一步到位
OneHotEncoder(categories='auto').fit_transform(X).toarray()

result

在这里插入图片描述

#对应上方得到的哑变量的名称
enc.get_feature_names()

在这里插入图片描述

#依然可以还原
pd.DataFrame(enc.inverse_transform(result))

在这里插入图片描述

#axis=1,表示跨行进行合并，也就是将量表左右相连，如果是axis=0，就是将量表上下相连
newdata = pd.concat([data,pd.DataFrame(result)],axis=1)
newdata.head()

在这里插入图片描述

#删除两个特征用哑变量来代替
newdata.drop(['Sex','Embarked'],axis=1,inplace=True)
#对所有的列进行重新的命名
newdata.columns=["Age","Survived","Female","Male","Embarked_C","Embarked_Q","Embarked_S"]
newdata.head()

在这里插入图片描述

3.4 类sklearn.preprocessing.LabelBinarizer可以对标签做哑变量

这样的做法在现实中不常见

许多算法都可以处理多标签问题（比如说决策树）

3.5 编码与哑变量总结

在这里插入图片描述

3.6 数据类型以及常用的统计量

在这里插入图片描述

四、处理连续型特征：二值化与分段

4.1 数据二值化sklearn.preprocessing.Binarizer

根据阈值将数据二值化（将特征值设置为0或1），用于处理连续型变量。大于阈值的值映射为1，而小于或等于阈值的值映射为0。默认阈值为0时，特征中所有的正值都映射到1。二值化是对文本计数数据的常见操作，分析人员可以决定仅考虑某种现象的存在与否。它还可以用作考虑布尔随机变量的估计器的预处理步骤（例如，使用贝叶斯设置中的伯努利分布建模）

data_2 = data.copy()

from sklearn.preprocessing import Binarizer

x = data_2.loc[:,data.columns=='Age'] #类为特征专用，所以不能使用一维数组
#x = data_2.loc[:,'Age'].values.reshape(-1,1)#另一种写法

#设置中间参考值为30，大于30为1，小于等于30为0
transform = Binarizer(threshold=30).fit_transform(x)
transform

在这里插入图片描述

4.2 连续型变量划分为分类变量preprocessing.KBinsDiscretizer

这是将连续型变量划分为分类变量的类，能够将连续型变量排序后按顺序分箱后编码。总共包含三个重要参数：

参数	含义&输入
n_bins	每个特征中分箱的个数，默认5，一次会被运用到所有导入的特征
encode	编码的方式，默认“onehot” "onehot"：做哑变量，之后返回一个稀疏矩阵，每一列是一个特征中的一个类别，含有该类别的样本表示为1，不含的表示为0 “ordinal”：每个特征的每个箱都被编码为一个整数，返回每一列是一个特征，每个特征下含有不同整数编码的箱的矩阵 "onehot-dense"：做哑变量，之后返回一个密集数组。
strategy	用来定义箱宽的方式，默认"quantile" "uniform"：表示等宽分箱，即每个特征中的每个箱的最大值之间的差为(特征.max() - 特征.min())/(n_bins) "quantile"：表示等位分箱，即每个特征中的每个箱内的样本数量都相同 "kmeans"：表示按聚类分箱，每个箱中的值到最近的一维k均值聚类的簇心得距离都相同

from sklearn.preprocessing import KBinsDiscretizer

X = data.iloc[:,0].values.reshape(-1,1)
est = KBinsDiscretizer(n_bins=3, encode='ordinal', strategy='uniform')
est.fit_transform(X).ravel()

在这里插入图片描述

est = KBinsDiscretizer(n_bins=3, encode='onehot', strategy='uniform')
est.fit_transform(X).toarray()

在这里插入图片描述

总结

学习了数据预处理的内容

功夫大笨鲨

关注

2
点赞
踩
4

收藏

觉得还不错? 一键收藏
0
评论
数据预处理

文章目录前言一、数据无量纲化1.1 数据归一化1.1.1 不加feature_range，默认是[0,1]1.1.2 使用MinMaxScaler的参数feature_range实现将数据归一化到[0,1]以外的范围中1.1.3 使用numpy来实现归一化1.2 数据标准化1.3 StandardScaler和MinMaxScaler选哪个？二、缺失值处理2.1我们使用impute.SimpleImputer来实现这个功能2.2 也可用Pandas和Numpy进行填补，其实更加简单，随便用哪个三、处理分类.
复制链接

扫一扫

专栏目录