​ICLR 2023 | LightGCL: 简单且高效的图对比学习推荐系统

d3f02546b485f8fefe22d24da2db9c81.gif

©PaperWeekly 原创 · 作者 | 蔡旭恒

单位 | 香港大学

研究方向 | 推荐系统

0724621f7de21a02ff17495929d6376d.png

论文题目:

LightGCL: Simple Yet Effective Graph Contrastive Learning for Recommendation

收录会议:

ICLR 2023

论文链接:

https://arxiv.org/abs/2302.08191

代码链接:

https://github.com/HKUDS/LightGCL

港大数据智能实验室 (指导老师:黄超)

https://sites.google.com/view/chaoh

0db133ae6d1be9ab92e3318b9a5f7a51.png

研究背景

近年来,图神经网络(Graph Neural Networks,或简称 GNN)在基于图的推荐系统上展现了良好的效果,而这得益于其整合相邻结点信息以进行协同过滤(Collaborative Filtering)的能力。总的来说,基于 GNN 的推荐模型在用户-物品交互图上进行多层的信息传递,以此挖掘高阶的(high-order)连接信息。很大一部分基于 GNN 的协同过滤模型采用了监督学习(Supervised Learning)的范式,而这需要大量而准确的带标签信息用以训练。

然而,在实际的应用场景中,数据往往十分稀疏,导致监督学习无充分的信息可供利用。为了解决信息稀疏问题,最新的模型往往采用对比学习(Contrastive Learning)来对数据进行增强操作。具体来说,对比学习的主旨是在原有图结构的基础上略作扰动,并以此增强后的新图产生一组新的表征向量,然后将这组新的表征向量与原图产生的表征向量进行对齐,并将不属于同一结点的表征向量互相推远。

虽然对比学习在提升图推荐系统的效果上作用十分明显,它的效果很大程度上依赖于数据增强的方法。绝大部分现有的图对比学习方法使用基于随机过程(stochastic-based)或基于经验的(heuristic-based)数据增强方法。

虽然这些方法达到了不错的效果,但亦存在几种问题:首先,基于随机过程的图数据增强可能会损失图中重要的结构信息,从而误导模型;其次,基于经验的对比学习方法建立在对数据分布较强的假设上,而这会限制模型的普适性,并容易受数据中的噪声影响;再者,绝大部分基于 GNN 的对比学习推荐系统仍然存在图表征过平滑问题,无法有效地将正负样例区分开来。

为了解决上述问题,本文重新探索了图对比学习的范式,并提出了一种简单且高效的图对比学习框架 LightGCL。在此新框架下,图数据增强是由奇异值分解及重构(Singular Value Decomposition and Reconstruction)来指导的。

以此方式进行图数据

  • 0
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值