论文题目: Representation Learning-Assisted Click-Through Rate Prediction
论文地址: https://arxiv.org/abs/1906.04365
论文发表于: arXiv 2019
论文所属单位: Alibaba
论文大体内容:
本文主要提出了一个联合学习的框架DeepMCP,对于传统的CTR预测任务,在使用User和Item的特征基础上,还加入了UI之间的关系,II之间的关系进行联合学习,从而得出更好的效果。
Motivation:
传统的网络只考虑到User和Item两者分开的特征,存在缺少联合特征和User、Item的Embedding学习不充分等问题。
Contribution:
本文作者在传统的CTR模型上(prediction subnet),增加matching subnet和correlation subnet,并对这3个网络进行联合学习,以达到更好的效果。
1. 本文作者提出的联合学习框架如下图。主要包括3个子网络:
①prediction subnet,传统的CTR模型,使用User和Item各自的特征进行训练;
②matching subnet,使用tower模型结构,最后一层FC的激活函数不使用ReLU,而是tanh,因为ReLU容易导致大部分是0;
③correlation subnet,借助图的方式去表征关系,使用skip-gram;
实验
2. Dataset
①Avito advertising dataset;
②Company advertising dataset;
3. Baseline
①LR;
②DNN;
③Wide&Deep;
④DeepFM;
等等;
8. 实验结果
AUC能提升1pp;
参考资料:
[1] https://zhuanlan.zhihu.com/p/103587970
以上均为个人见解,因本人水平有限,如发现有所错漏,敬请指出,谢谢!