例如有如下的特征,我们要对性别进行编码,可能常用的方法就是男性对应0,女性对应1。
性别 | 分类标签 |
男 | 0 |
男 | 1 |
男 | 1 |
男 | 0 |
男 | 2 |
女 | 2 |
女 | 2 |
Histogram编码是将属性值分类,然后对不同的分类进行编码,编码方式如下:
1、分类标签的类别数目有多少,Histogram的编码向量长度就有多长,比如这里分类标签的长度是3,则性别的初始向量就是[0,0,0]
2、统计属性中每个取值对应的数量,并分类统计,比如性别男,共有5个,0有2个,1有2个,2有1个,对性别女同样如此
3、使用属性中每个取值在总数中的占比统计得到向量,性别男的编码为[2/5,2/5,1/5],性别女的编码为[0,0,1]
使用Histogram编码的一个好处是可以明显看出属性的取值对分类的贡献程度,预测可能更准确一些。