#Paper Reading# Learning Graph Meta Embeddings for Cold-Start Ads in Click-Through Rate Prediction

论文题目: Learning Graph Meta Embeddings for Cold-Start Ads in Click-Through Rate Prediction
论文地址: https://arxiv.org/abs/2105.08909
论文发表于: SIGIR 2021（CCF A类会议）
论文所属单位: Alibaba

论文大体内容：
本文主要提出了GME（Graph Meta Embedding）模型来解决item冷启动问题；

Motivation：
现有模型冷启动问题解决的不够好；

Contribution：
①提出item冷启动解决的2个方向：新item自身属性、新item与老item之间的联系信息；
②提出GME模型；
③实验取得收益；

1. item冷启动CTR模型的常见结构如下：

2. 本文提出2个优化方向用于新item冷启动：
①新item本身的固有属性；
②新item与老item之间的关系；

3. 本文对应的2种优化方式是：
①EG（embedding generator）：通过静态属性生成embedding；
②GAT（graph attention network）：通过相邻节点生成embedding；

4. GAT中相邻节点的生成方式：根据新item的属性，在倒排拉链中找neighbor

5. 作者提出了3种GME模型：
①GME-P：使用EG生成新item的embedding g0，GAT中的相邻节点直接使用已有的embedding pi；
-缺点：相邻节点embedding是随机初始化的，g0和pi直接存在gap；
②GME-G：使用EG生成新item的embedding g0，GAT中的相邻节点embedding pi也使用EG生成；
-缺点：重复使用EG会传播噪声；
③GME-A：不直接使用id embedding，而是使用属性embedding，另外将EG放到最后，避免信息损失；

实验
6. Dataset
①MovieLens-1M
②Taobao Ad
③News feed

7. Baseline
①DNN；
②W&D;
③PNNs；
④DeepFM；
⑤AutoInt；
...

8. Metric
①AUC；
②Loss；

9. 实验结果

 

参考资料： 
[1] GME模型源代码 https://github.com/oywtece/gme

以上均为个人见解，因本人水平有限，如发现有所错漏，敬请指出，谢谢！