数据预处理系列：（四）用阈值创建二元特征

声明：版权所有，转载请联系作者并注明出处  http://blog.csdn.net/u013719780?viewmode=contents

博主简介：风雪夜归子（英文名: Allen），机器学习算法攻城狮，喜爱钻研Machine Learning的黑科技，对Deep Learning和Artificial Intelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台，对数据、Machine Learning和Artificial Intelligence有兴趣的各位童鞋可以一起探讨哦，个人CSDN博客： http://blog.csdn.net/u013719780?viewmode=contents

用阈值创建二元特征

在前一个主题，我们介绍了数据转换成标准正态分布的方法。现在，我们看看另一种完全不同的转换方法。

当不需要呈标准化分布的数据时，我们可以不处理它们直接使用；但是，如果有足够理由，直接使用也许是聪明的做法。通常，尤其是处理连续数据时，可以通过建立二元特征来分割数据。

Getting ready

通常建立二元特征是非常有用的方法，不过要格外小心。我们还是用boston数据集来学习如何创建二元特征。

首先，加载boston数据集：

In [1]:

from sklearn import datasets
boston = datasets.load_boston()
import numpy as np

How to do it...

与标准化处理类似，scikit-learn有两种方法二元特征：

• preprocessing.binarize（一个函数）
• preprocessing.Binarizer（一个类）

boston数据集的因变量是房子的价格中位数（单位：千美元）。这个数据集适合测试回归和其他连续型预测算法，但是假如现在我们想预测一座房子的价格是否高于总体均值。要解决这个问题，我们需要创建一个均值的阈值。如果一个值比均值大，则为1；否则，则为0：

In [6]:

from sklearn import preprocessing
new_target = preprocessing.binarize(boston.target, threshold=boston.target.mean())
new_target[0,:5]

Out[6]:

array([ 1.,  0.,  1.,  1.,  1.])

很容易，让我们检查一下：

In [22]:

(boston.target[:5] > boston.target.mean()).astype(int)

Out[22]:

array([1, 0, 1, 1, 1])

既然Numpy已经很简单了，为什么还要用scikit-learn的函数呢？管道命令，将在用管道命令联接多个预处理步骤一节中介绍，会解释这个问题；要用管道命令就要用Binarizer类：

In [24]:

bin = preprocessing.Binarizer(boston.target.mean())
new_target = bin.fit_transform(boston.target)
new_target[0,:5]

Out[24]:

array([ 1.,  0.,  1.,  1.,  1.])

How it works...

方法看着非常简单；其实scikit-learn在底层创建一个检测层，如果被监测的值比阈值大就返回Ture。然后把满足条件的值更新为1，不满足条件的更新为0。

There's more...

让我们再介绍一些稀疏矩阵和fit方法的知识。

稀疏矩阵

稀疏矩阵的0是不被存储的；这样可以节省很多空间。这就为binarizer造成了问题，需要指定阈值参数threshold不小于0来解决，如果threshold小于0就会出现错误：

In [31]:

from scipy.sparse import coo
spar = coo.coo_matrix(np.random.binomial(1, .25, 100))
preprocessing.binarize(spar, threshold=-1)

---------------------------------------------------------------------------
ValueError                                Traceback (most recent call last)
<ipython-input-31-c9b5156c63ab> in <module>()
      1 from scipy.sparse import coo
      2 spar = coo.coo_matrix(np.random.binomial(1, .25, 100))
----> 3 preprocessing.binarize(spar, threshold=-1)

d:\programfiles\Miniconda3\lib\site-packages\sklearn\preprocessing\data.py in binarize(X, threshold, copy)
    718     if sparse.issparse(X):
    719         if threshold < 0:
--> 720             raise ValueError('Cannot binarize a sparse matrix with threshold '
    721                              '< 0')
    722         cond = X.data > threshold

ValueError: Cannot binarize a sparse matrix with threshold < 0

fit方法

binarizer类里面有fit方法，但是它只是通用接口，并没有实际的拟合操作，仅返回对象。