Self-supervised Graph Learning for Recommendation-----SIGIR2021（个人笔记）

已于 2022-05-13 14:22:05 修改
阅读量582 收藏 3
点赞数 1
文章标签： 深度学习 人工智能 推荐算法
于 2022-05-13 13:58:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_29717841/article/details/124739827
版权

论文：自监督图学习推荐系统 （SIGIR2021）

文章链接：http://staff.ustc.edu.cn/~hexn/papers/sigir21-SGL.pdfhttp://staff.ustc.edu.cn/~hexn/papers/sigir21-SGL.pdf

 Code:https://github.com/wujcan/SGL-TensorFlowhttps://github.com/wujcan/SGL-TensorFlow

GitHub - wujcan/SGL-Torch: SGL PyTorch versionhttps://github.com/wujcan/SGL-Torch

1. 前言

1.1 提出的问题（当前基于GCN的推荐模型）

  • 稀疏监督信号 ：大多数模型在监督学习范式下处理推荐任务，监督信号来自观察到的用户项目交互。然而，与整个交互空间相比，观察到的交互非常稀疏，不足以学习高质量的表示。
  • 不均的数据分布 : 观察到的相互作用通常呈现幂律（长尾）分布，其中长尾由缺乏监督信号的低度项（冷门项目）组成。相比之下，在邻域聚合和监督损失中，高次项（热门项目）出现的频率更高，从而对表示学习产生更大的影响。因此，GCN很容易偏向于热门项目，从而忽略了冷门（长尾）项目。
  • 噪声的交互干扰 ：用户提供的大多数反馈都是隐式的（例如，点击、查看），而不是显式的（例如，评分、喜欢/不喜欢）。因此，观察到的交互通常包含噪音ÿ
最低0.47元/天 解锁文章
韭菜茁壮成长
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【GCN-RS】对比学习SGL：Self-supervised Graph Learning for Recommendation (SIGIR‘21)
chadlee
11-18 1556
Self-supervised Graph Learning for Recommendation (SIGIR‘21) 还是何向南组提出的图自监督学习框架，对用户-物品的二部图上的节点、边做dropout等方法实现数据增强，产生许多子视图，在多个子视图上进行对比学习，实现自监督。再配合监督学习，多任务学习。 作者提出的图自监督学习框架SGL可以改善长尾、提高鲁棒。SGL只是一个框架，里面的图表示学习方法可以用LightGCN等。 数据增强 一般GNN对节点编码的方式： Z1(l)=H(Z1(l−1),G
Self-supervised Graph Learning for Recommendation(SIGIR2021)
weixin_43401022的博客
01-12 1086
原文链接Self-supervised Graph Learning for Recommendationhttps://arxiv.org/abs/2010.10783v4 INTRODUCTION 1、目前基于GCN的推荐模型仍存在一些局限性： ①Sparse Supervision Signal---稀疏的监督信号 ②Skewed Data Distribution---长尾效应 ③Noises in Interactions---隐反馈常常包含噪声 为解决以上问题，引入自监督self..
论文阅读《Self-supervised Graph Learning for Recommendation》
qq_43431934的博客
04-12 909
总结 文章认为当前的推荐算法往往是基于GCN的结构监督学习，更侧重于网络中度数高（即发生交互多）的节点而忽视了低度数节点，此外还容易受到交互噪声的影响。因此文章将自监督学习Self-supervised Learning引入到图结构数据上，提出了SGL框架，通过利用节点舍弃、边舍弃和随机游走三种方法，为同一个节点生成不同视图，从而达到了在原有数据上的增强，进一步提高了推荐算法的稳健型和效果。下图为传统监督图学习和自监督图学习的区别： 1 GCN结构和监督学习 现有推荐算法往往都基于GCN结构，即通
Self-supervised Graph Learning for Recommendation
ZZZ___bj的博客
11-29 4718
对于推荐来说，用户-商品图的表示学习已经从使用单个ID或交互历史发展到利用高阶邻居，这导致了图卷积网络(GCNs)的成功推荐，如PinSage和LightGCN。尽管有效，但我们认为它们存在两个局限性：（1）高阶节点对表示学习有更大的影响，恶化了低阶（长尾）商品的推荐；（2）因为邻域聚合方案进一步扩大了观察边缘的影响，表示容易受到噪声交互的影响。 在本研究中，我们探索了在用户-商品图上的自监督学习，以提高GCN作为推荐的准确性和鲁棒性。该思想是用一个辅助的自我监督任务来补充经典的推荐监督任务，通过自我鉴别.
SIGIR 2021 Self-supervised Graph Learning for Recommendation文献笔记
m0_68019326的博客
05-14 398
本文作者探讨了基于user-item图的自监督学习SGL，从而提高GCNs推荐的准确性和鲁棒性。其思想是在经典的有监督推荐任务的基础上增加一个辅助的自我监督任务，通过自我判别来加强节点表示学习。
SGL：Self-supervised Graph Learning for Recommendation论文
zhao254014的博客
09-21 1171
正对的辅助监督促进了同一节点的不同视图之间的一致性来进行预测，而负对的监督则加强了不同节点之间的差异
Self-labeled-techniques-for-semi-supervised-learning
05-15
用于半监督学习的自标记技术 2017年在罗马的Sapienza大学进行的一次神经网络项目课程。 项目报告： 实际部分： 创建的算法： 和
Self-Supervised_Learning_Papers-Code:自我监督学习论文
04-04
论文2021 RGB-D显着目标检测的自监督表示学习（） 通过自我监督的多任务学习来学习特定于形式的表示形式以进行多模态情感分析（）（） 理解无对比对的自我监督学习动力学（）（） 多视角的自我监督学习。（）（ ...
Contrastive Self-supervised Learning for Graph Classification
12-20
Contrastive Self-supervised Learning for Graph Classification 在图分类问题中， Contrastive Self-supervised Learning（对比自监督学习）是一种有效的方法，它可以解决图分类模型中的过拟合问题。该方法通过在...
Nonnegative Sparse and KNN graph for semi-supervised learning
02-06
For the graph-based semi-supervised learning, the performance of a classifier is very sensitive to the structure of the graph. So constructing a good graph to represent data, a proper structure for ...
经典图推荐系统论文Self-supervised Graph Learning for Recommendation算法及代码简介
Blueghost19的博客
03-24 942
经典图推荐系统论文Self-supervised Graph Learning for Recommendation算法及代码简介
SGL：Self-supervised Graph Learning for Recommendation
m0_56321960的博客
11-13 220
通过「数据增强」来改变图结构，使得图模型于不会过于依赖某些「边」或者某些「高度结点」。通过「对比学习」同一结点的不同视图表征，模型能够有效地发现「最有意义的模式」，尤其是结点的图结构信息，同时还能挖掘困难负样本，提高模型的区分能力。
Self-supervised Graph Learning for Recommendation(SGL)
qq_42018521的博客
07-09 1011
（作者给出了Pytorch和Tensorflow两个版本）本文提出了一种应用于的框架。核心的思想是，对用户-物品二部图做，增强后的图可以看做原始图的子视图；在子视图上使用任意的图卷积操作，如LightGCN来提取结点的表征，对于同一个结点，多个视图就能形成多种表征；然后借鉴[5]的思路，构造自监督学习任务：最大化同一个结点不同视图表征之间的相似性，最小化不同结点表征之间的相似性；最后和联合起来，构成多任务学习的范式，具体如下图所示。
Self-supervised Graph Learning for Recommendation 详解
最新发布
a13683857889的博客
12-06 217
基于用户-物品图的推荐表示学习已经从使用单一 ID 或交互历史发展到利用高阶邻居。这导致了图卷积网络(GCNs)在推荐方面的成功，如 PinSage 和 LightGCN。尽管具有有效性，但我们认为它们存在两个局限性：(1)高阶节点对表示学习的影响更大，使低阶(长尾)项目的推荐恶化;(2)由于邻域聚集方案进一步扩大了观测边缘的影响，表征容易受到噪声相互作用的影响。在这项工作中，我们探索了用户项图的自监督学习，以提高GCNs推荐的准确性和鲁棒性。
【论文阅读】Self-Supervised Graph Representation Learning via Global Context Prediction
grove976的博客
11-11 1125
论文地址: https://arxiv.org/abs/2003.01604 0 摘要 为了充分利用快速增长的无标签网络数据，本文介绍了一种新的自监督策略，通过利用数据本身 的自然监督来进行图表示学习 我们研究全局上下文是否可以成为学习有用的节点表示的监督信号的来源 随机选择图中给的几对节点，训练一个精心设计的神经网络来预测一个节点相对于另一个节点的上下文位置 1 介绍 应该学习什么一直是无监督学习的核心问题 在没有手工标注的情况下，如何设计合适的目标函数来学习理想的节点表示是一个具有挑战性的问题 如何.
SIGIR‘21|SGL基于图自监督学习的推荐系统
木东的博客
10-09 1471
本篇文章主要介绍王翔、何向南老师团队在SIGIR2021上发表的文章SGL，Self-supervised Graph Learning for Recommendation[1]。这篇文章提出了一种应用于用户-物品二分图推荐系统的图自监督学习框架。核心的思想是，对输入的二分图，做结点和边的dropout进行数据增强，增强后的图可以看做原始图的子视图；在子视图上使用任意的图卷积神经网络，如LightGCN[2]来提取结点的表征，对于同一个结点，多个视图就能形成多种表征；然后借鉴对比学习[5]的思路，构造自监
推荐系统笔记（九）：SGL --利用自监督对比学习缓解推荐系统长尾效应
qq_46006468的博客
07-30 2495
SGL是模型不可知框架，采用用户项图上的自监督学习来弥补数据集稀疏和噪声影响的不足。论文中通过实验证明了SGL长尾推荐、训练收敛和抗噪声交互鲁棒性方面的优势。
【论文笔记】“When Does Self-Supervision Help Graph Convolutional Networks“
BIT_CABINZ
12-05 522
未经同意，禁止转载。 文章目录未经同意，禁止转载。【论文笔记】"When Does Self-Supervision Help Graph Convolutional Networks"主要内容相关背景基于图的半监督学习 (Graph-based semi-supervised learning)自监督学习 (Self-supervised learning)基于图的对抗性攻防 (Adversarial attack and defense on graphs)已有的上游训练方法预训练和微调 (Pretra
self-supervised learning
09-21
自我监督学习是一种机器学习方法，通过对数据进行合理的预测任务，从中获得有用的表示。与传统的监督学习不同，自我监督学习不需要人工标注的标签来指导训练，而是利用数据自身的信息进行训练。...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值