【GCN-CTR】端到端的GNN-CTR:Dual Graph enhanced Embedding Neural Network for CTR Prediction (KDD‘21)

DG-ENN是一种用于CTR预测的双图增强嵌入神经网络,通过图卷积处理稀疏特征和交互。该模型包括用户属性图、物品属性图、用户-用户图、物品-物品图和用户-物品图。实验证明其能有效提升模型性能,但使用全数据集邻接矩阵可能不适合工业场景。
摘要由CSDN通过智能技术生成

DG-ENN: Dual Graph enhanced Embedding Neural Network for CTR Prediction (KDD’21)

性能简直无敌了,线下这个收益上线岂不是xx亿的收益?代价就是虽然是个端到端的模型,但是用到了全数据集的邻接矩阵,这可以在数据集上搞,可以在工业场景用吗?

就论文本身而言,我个人认为这篇文章的缺点是:我反复读这篇文章,发现根本无法实现其 “分治、field-wise” 的做法。所以我按我的理解介绍。

Motivation:稀疏的特征和稀疏的交互

在CTR场景中:(1)很多特征是很稀疏的,只出现很少的次数,这些特征的语义很难很好的学出,更不要说学出这些特征和其他特征的组合特征了;(2)很多用户的交互行为也是很稀疏的(长尾用户),导致长尾用户的兴趣也很难很好的学出。

问题(2)已经被广泛用GNN来解决了:NGCF、LightGCN等;那么问题(1)也可以用GNN来解决,所以再构建一个“Attribute Graph Convolution”来解决这个问题,这就是文章题目中“Dual Graph”的来源。

输入与输出

和所有CTR模型一样,模型的输入包括用户u、商品v、用户属性 A u A_u Au、商品属性 A v A_v Av、用户点击过的商品序列 S u S_u Su、背景信息C,经过embedding layer输入模型的就是:
E = [ e u , e v , e A u , e B v , e S u , e C ] E=\left[e_{u}, e_{v}, e_{A_{u}}, e_{B_{v}}, e_{S_{u}}, e_{C}\right] E=[eu,ev,eAu,eBv,eSu,eC]
E E E 是各种模型的输入:DIN、DSIN等,文章提出的模型就是一个 “enhanced Embedding Neural Network”,其输出的
P = [ p ^ u , p ^ v , z A u , z B v , p ^ S u , e C ] P=\left[\hat{p}_{u}, \hat{p}_{v}, z_{A_{u}}, z_{B_{v}}, \hat{p}_{S_{u}}, e_{C}\right] P=[p^u,p^v,zAu,zBv,p^Su

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 10
    评论
评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值