作 者:一元
公众号:炼丹笔记
昨天看非常多的群友在讨论该篇文章,很是好奇,今天就读了一下,个人感觉本文的co-action操作还是第一次碰到,但该方案在amazu等数据集上对比的方案还是较为弱的,所以是否效果比xDeepFM和NFFM等要好,还是一个问好,但是新的表示co-action的方案还是很值得思考的。有任何问题欢迎最后入群交流。好了下面进入正文,Let's Go!
目前基于特征交互的模型可以大致分为三类:
- Aggregation based方法:聚合用户的历史行为序列来获得CTR预估的判别表示;
- Graph based方法: 将特征作为节点, 通过有向和无向图的方式连接, 在这种情况下,特征协同作用作为信息沿边缘传播的边缘权重;
- Combinatorial embedding方法:直接明显的组合特征的embedding;
基于Aggregation的方法和基于Graph的方法只通过边的权值对特征的协同作用进行建模,但是边缘只用于信息聚合,而不用于信息扩充。组合嵌入方法,另一方面,结合两个特征的嵌入来建立特征的共同作用,但组合嵌入法的问题在于, 嵌入负责表示学习和协同作用建模,而表示学习和协同建模可能会互相冲突最终使我们的效果受限。
本文提出了feature Co-Action Network(CAN)捕获在输入阶段的特征的co-action并且利用交互和共同信息来对最终模型的效果进行提升。