特征组合可以提高LR分类效果

LR模型本质是对数线性模型,使用的特征比较好解释,预测输出在0与1之间契合概率模型。但是,线性模型对于非线性关系缺乏准确刻画,特征组合正好可以加入非线性表达,增强模型的表达能力。基本特征可以认为是用于全局建模,组合特征更加精细,是个性化建模,所以基本特征+组合特征兼顾了全局和个性化。比如特征向量中,有用户A,B,C,物品E,F,G。基本的特征A,B.C.E.F.G对应的权重,对应的是每个对象的偏置权重,但如果A偏好E,B偏好F,那么组合特征A-E,B-F就是对用户的个性进行建模,组合特征A-E,B-F的权重就是代表A对E的喜好,和B对F的喜好。
总的来说,就是增强了特征的表达能力,或者说更容易线性可分。

阅读更多
想对作者说点什么?

博主推荐

换一批

没有更多推荐了,返回首页