稀疏特征与稠密特征

稀疏特征与稠密特征

举个简单的例子，将每个样本表示成一个10000维的向量 , 其中是某个样本的向量表示为:0 123:0.122519644924 2097:0.07071109355490代表类别标签 , 123和2097就是feature index , 后面的数就是特征表达也就是说这个向量在123和2097维上有数据其余都是0 假如每个维度上都有值 , 本来是在10000个维度上来表达这个样本, 而现在只有两个维度上有效地表达了这个样本, 这个特征可以说是稀疏对，简单来说，被稀疏表示的特征即是稀疏特征。

稠密特征一般是相对稀疏特征来说的，我们知道类别特征经过独热编码之后比较稀疏，比如类别 [‘小猫’，‘小狗’，‘小熊’，‘小猴’] 被独热编码后的数据结构为[[1,0,0,0],[0,1,0,0],[0,0,1,0],[0,0,0,1]]，可以看到这种数据很稀疏，但是像桌子的长度这种稠密特征数据一般就是 [3.4,2.6,8.9,6.7] 这种。