pandas中利用get_dummies()进行独热编码（One-Hot encoding）

 在机器学习分类任务中，经常存在一个特征有多个分类变量值，例如在kaggle中的Titanic比赛数据中，Embarked的值有S,C,Q。我们这个时候要对离散型数据进行onehot编码处理，至于onehot编码的优点以及为什么要用onehot编码？可以参考这篇博文：数据预处理：独热编码（One-Hot Encoding）

一、onehot的优点

       onehot编码的优点可以总结如下：

1、能够处理非连续型数值特征。

2、在一定程度上也扩充了特征。比如性别本身是一个特征，经过one hot编码以后，就变成了男或女两个特征。

3、使用one-hot编码，将离散特征的取值扩展到了欧式空间，离散特征的某个取值就对应欧式空间的某个点，在回归，分类，聚类等机器学习算法中，特征之间距离的计算或相似度的计算是非常重要的，而我们常用的距离或相似度的计算都是在欧式空间的相似度计算，计算余弦相似性，基于的就是欧式空间。

5、将离散型特征使用one-hot编码，可以让特征之间的距离计算更加合理，相当于做了归一化处理。

 

二、特征的归一化处理

基于树的方法不需要进行特征的归一化，决策树是没有特征大小的概念的，只有特征处于他分布的哪一部分的概念。例如随机森林，bagging与boosting等方法。如果是基于参数的模型或者基于距离的模型，因为需要对参数或者距离进行计算，都需要进行归一化。关于归一化的详细介绍，可以参考 数据标准化/归一化normalization

 

三、Python中采用哪种函数进行onehot编码

在pandas和sklearn中都有相应的onehot编码函数，推荐采用get_dummies()函数，具体关于这些函数的介绍以及区别，可以参考这篇文章http://blog.csdn.net/wl_ss/article/details/78508367。

 

四、onehot编码后去掉冗余特征的处理

      一般来说，进行onehot编码后，如果有N个特征，已知前N-1个特征的特征值之后，第N个特征的特征值也就知道了。例如知道前N-1个特征的特征值都为0，那么第N个特征为1.如果前面有某一个特征为1，则第N个特征为0。

（If a factor variable has N levels, the number of dummy variables created from the factor is always N-1. Does not really matter which variable is being dropped. It becomes a baseline variable and the coefficient for this variable is added to a "shared" intercept.

来自：https://www.kaggle.com/omarelgabry/a-journey-through-titanic）

其中维基百科https://en.wikiversity.org/wiki/Dummy_variable_(statistics)里面也对相关问题做了非常详细的描述。