【机器学习】one-hot编码

one-hot编码的思想就是将离散特征变成向量
假设特征 𝐴 有三种取值 {𝑎,𝑏,𝑐} ，这三种取值等价，如果我们使用1,2,3三个数字表示这三种取值，那么在计算时就会产生偏差，有一些涉及距离度量的算法会认为，2和1离得近，3和1离得远，但这三个值应该是等价的，这种表示方法会造成模型在判断上出现偏差。
解决方案就是使用一个三维向量表示他们，用 [1,0,0] 表示a， [0,1,0] 表示b， [0,0,1] 表示c，这样三个向量之间的距离就都是相等的了，任意两个向量在欧式空间的距离都是 $\sqrt{2}$ 。这就是one-hot编码是思想。
也就是说，使用one hot编码器对类别进行“二进制化”操作，然后将其作为模型训练的特征。比如，假设“花”的特征可能的取值为daffodil（水仙）、lily（百合）、rose（玫瑰）。one hot编码将其转换为三个特征：is_daffodil、is_lily、is_rose，这些特征都是二进制的。

代码思路

1. 用Numpy实现转换(映射map)的一个思路：用连续的整型标签值索引np.eye数组。

import numpy as np
#连续的整型标签值
labels = np.array([0, 1, 2, 1, 2, 0, 2, 1, 0])
#类别
num_classes = 3
#one_hot编码
one_hot_codes = np.eye(num_classes)

one_hot_labels = []
for label in labels:
    #将连续的整型值映射为one_hot编码
    one_hot_label = one_hot_codes[label]
    one_hot_labels.append(one_hot_label)

one_hot_labels = np.array(one_hot_labels)
print(one_hot_labels)

缺点：显而易见，只有连续从0开始的整数数组才能复合要求，这只是一个入门级实现。

2. pandas和sklearn。它们最大的区别是，pandas默认只处理字符串类别变量，sklearn默认只处理数值型类别变量(需要先 LabelEncoder )

pandas

'''
    Parameter
    ----------
    data: pd.DataFrame
    
    features_categorical: list(str)
    '''
    
def one_hot_encoding(data, features_categorical):    
    # 对所有的离散特征遍历
    for cat in features_categorical:
        
        # 对这列进行one-hot编码，prefix是为one-hot编码后的变量进行命名
        one_encoding = pd.get_dummies(data[cat], prefix = cat)
        
        # 将生成的one-hot编码与之前的dataframe拼接起来
        data = pd.concat([data, one_encoding],axis=1)
        
        # 删除掉原始的这列离散特征
        del data[cat]
    
    return data