MixGCF: An Improved Training Method for Graph NeuralNetwork-based Recommender Systems（个人笔记）

韭菜茁壮成长

已于 2022-05-15 21:43:47 修改

阅读量995

点赞数 1

文章标签：推荐算法机器学习深度学习

于 2022-04-18 20:31:55 首次发布

本文链接：https://blog.csdn.net/qq_29717841/article/details/124251347

版权

MixGCF是一种用于图神经网络推荐系统的改进训练方法，通过正混合和跳跃混合策略合成负样本，提升了模型在识别正负样本边界的能力。文章详细介绍了GNN模型的聚合、池化和负采样优化，并展示了MixGCF在多种负采样技术上的出色性能。

摘要由CSDN通过智能技术生成

论文：MixGCF：一种改进的基于图神经网络的推荐系统训练方法（KDD.2021）

文章链接：MixGCF | Proceedings of the 27th ACM SIGKDD Conference on Knowledge Discovery & Data Mining

代码链接：https://github.com/huangtinglin/MixGCF （Pytorch版）

1. 前言

1.1 提出的问题

a. 推荐模型中广泛使用的 CF 存在的一大弊端就是不能很好的学习到隐式负反馈，而正好对基于GNN 的 CF 负采样也没有被探索过。

b. 推荐系统中的负采样方法很重要，负样本是影响推荐效果的因素之一。此前的负样本都是取自真实的数据，而忽略了嵌入信息。

1.2 做出的贡献

a. 引入合成负面样本的想法，而不是直接从数据中抽取负面样本，以改进基于GNN的推荐系统。

b. 提出了一个通用的MixGCF框架，其中包含跳混合和正向混合策略，可以自然地插入基于GNN的推荐模型中。

c. 展示MixGCF给GNN推荐者带来的显著改进，以及它在各种负采样技术上的一致表现。

1

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

韭菜茁壮成长

关注关注

1
点赞
踩
4

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

【论文笔记KDD2021】MixGCF: An Improved Training Method for Graph Neural Network-based Recommender Systems

发现问题，并解决问题，批判性思维

08-04

809

论文题目：MixGCF: An Improved Training Method for Graph Neural Network-based Recommender Systems论文链接：http://keg.cs.tsinghua.edu.cn/jietang/publications/KDD21-Huang-et-al-MixGCF.pdf论文代码：https://github.com/huangtinglin/MixGCF论文作者：Tinglin Huang，唐杰老师等人。............

Graph Convolutional Neural Networks for Web-Scale Recommender Systems（用于Web级推荐系统的图形卷积神经网络）

weixin_41697507的博客

07-07

4263

Graph Convolutional Neural Networks for Web-Scale Recommender Systems 用于Web级推荐系统的图形卷积神经网络 ABSTRACT Recent advancements in deep neural networks for graph-structured data have led to state-of-the-art pe...

参与评论您还未登录，请先登录后发表或查看评论

2021-KDD-MixGCF: An Improved Training Method for Graph Neural Network-based Recommender Systems

Dive的博客

03-22

416

MixGCF: An Improved Training Method for Graph Neural Network-based Recommender Systems 2021-KDD 清华唐杰老师利用u-i图结构和GNN的聚合过程来研究GNN-CF中的负采样。提出了MixGCF，设计了hop mix技术来合成hard负样本。 3 THE MIXGCF METHOD positive mixing：插值混合法，将正样本中的信息注入到负样本，make hard 负样本 hop mixing：使用

[sampling] MixGCF: An Improved Training Method for Graph Neural Network-based Recommender Systems

07-05

1177

Info：本文首发于公众号：code路漫漫欢迎关注 KDD2021采样相关的文章代码已经开源： huangtinglin/MixGCF github.com 图标文章提出了一种新的采样方法，使用该方法生成的负样本能让推荐效果更好这里从文章里面补充一下推荐系统采样相关的知识：首先数据集是implicit dataset，只有交互记录，没有交互的评分、评论等反映偏好等信息。在该数据集中，所有交互过的行为统一视为正样本，没有发生过交互的物品（往往很多）可以采样出一部分作为负样本。和正样本相似的负

GraphMAE v1 & v2 学习笔记

最新发布

weixin_55334398的博客

02-27

893

GraphMAE是一种使用了Masked Graph Autoencoders技术的基于图的自监督学习方法。传统的图自监督学习方法通常是对抗式自监督学习，但是GraphMAE是一种生成式自监督学习。对抗式自监督学习则侧重于通过引入对抗性样本来提高模型的鲁棒性。在这种方法中，模型会面临来自对手（通常是另一个模型）生成的扰动或样本，这些样本被设计为使模型产生错误的预测。有种“魔高一尺道高一丈”，相互竞争相互成就的意思。对抗学习的应用包括：生成式自监督学习的主要目标是通过学习数据的生成分布来进行表示学习。它利用

MixGCF: An Improved Training Method for Graph Neural Network-based Recommender Systems

m0_56878426的博客

11-14

1050

近年来，图神经网络（GNN）被用于改进协同过滤推荐系统。通过将用户和项目的交互建模为图，GNN能够将图结构信息融合进嵌入中，以提高推荐性能。典型的基于GNN的推荐模型有PinSage、NGCF和LightGCN，它们已在Web规模的应用中取得了显著的成功。负采样问题。在GNN-based推荐系统中，负采样是一项关键任务。负采样是指从未与用户交互的项目中挑选样本作为负样本，用于训练模型。然而，传统的负采样方法通常使用均匀分布来采样负样本，这可能导致模型的学习过程过于简单，不能有效地提升模型性能。

MixGCF: 一种改进的基于图神经网络的推荐系统训练方法（KDD 21）

weixin_50180730的博客

07-05

1398

核心问题：基于gnn的CF中的负采样在很大程度上尚未被探索，利用用户-项目图结构和gnn的聚合过程来研究负抽样，我们不是从数据中取样原始负样本，而是采用一种hop mixing技术对原始负样本进行处理，然后还是会利用聚合过程获得多层信息，最终来合成得到可靠的新负样本，使其与正样本更加相似，以达到更好的训练区别正负样本边界的效果具体实现：具体来说，整体实现框架是：首先我们是可以拥有原始的负样本（即未被观察到的items都可以被看作负样本且一般方法都是随机抽样得到负样本）本文通过mixin.

A Comprehensive Survey on Graph Neural Networks--图神经网络综合研究

m0_44967199的博客

01-13

4181

现阶段研究现状近年来，从图像分类到视频处理再到语音识别和自然语言处理，深度学习已经变革了多项机器学习的任务。这些任务中的数据通常表示在欧几里得空间中。然而，越来越多的应用使用非欧几里得域生成的数据，并将它们表示为具有复杂关系和相互依赖的关系图。虽然图数据的复杂性对现有的机器学习的算法提出了重大的挑战，但最近许多研究开始将深度学习方法扩展到图数据。本文综述了数据挖掘和机器学习领域中的图神经网络（...

GNN 2021(七) GraphMix: Improved Training of GNNs for Semi-Supervised Learning，AAAI

qq_36618444的博客

04-21

1109

其实本文就是与ICLR19年发表的一篇论文Manifold Mixup做了一个结合，利用Manifold Mixup提出了一种基于半监督节点分类的图神经网络正则化方法，通过参数共享和基于插值的正则化，与图神经网络共同训练全连接网络。最主要的难点在于从理论上分析了GraphMix如何改进底层图神经网络的泛化边界，而没有对图神经网络的聚合层数或深度做任何假设。本文的方法也可以与一些基线模型相结合，比如GCN，GAT，Graph-U-Net等。为了简化我们暂时不看大量的公式证明，直接看Mixup数据增强的思想如.

【GCN-RS】难负采样：MixGCF (KDD‘21)、Simplify and Robustify Negative Sampling (NIPS‘20)

chadlee

11-19

940

RS的Hard Negative与False Negative 负采样肯定是要采信息量大的Hard Negative样本，但是在RS场景中，unlabelled 样本并不等价于负样本，可能是还没有曝光给用户的样本。所以Hard Negative样本有可能是False Negative。所以过采样Hard Negative有可能引入False Negative。 Simplify and Robustify Negative Sampling for Implicit Collaborative Filter

nakaizura

11-25

4993

本篇文章继续整理这个系列Graph in Rec 的文章，以前博主整理过的系列可以见：图神经网络用于推荐系统问题（PinSage，EGES，SR-GNN）图神经网络用于推荐系统问题（NGCF，LightGCN）图神经网络用于推荐系统问题（IMP-GCN，LR-GCN）这次更新最近SIGIR2021，博主自己刷过觉得还不错的几篇文章。分搜索和推荐两篇博文整理吧，这篇是关于推荐的三篇文章。图神经网络用于检索问题（GraphCM，FNPS，GRAPH4DIV） Sequential Recom

KDD'21 | FaceBook ：基于图的负采样方法

Kaiyuan_sjtu的博客

11-11

775

MixGCF: An Improved Training Method for Graph Neural Network-based Recommender Systemshttps://...

KDD2021推荐系统论文集锦

abcdefg90876的博客

07-01

1710

一年一度的知识发现与数据挖掘顶级会议SIGKDD将于8月14日至18日在线上举行。据统计，今年共有1541篇有效投稿，其中238篇论文被接收，接收率为15.44%，相比KDD2020的接收...

Efficient and Effective: 百篇论文概览负采样方法的前世今生

abcdefg90876的博客

12-30

1369

AAAI2021论文列表（中英对照）

dovings的博客

07-04

9444

AAAI2021论文列表（中英对照）

图神经网络，如何变深？

人工智能学家

08-18

1202

来源：智源社区版式制作：Camel撰文：侯振宇编辑：贾伟现实世界中很多很多任务可以描述为图(Graph)问题，比如社交网络，蛋白质结构，交通路网数据，图是一个很值得研究的领域。近年来...

AAAI2021 | 最新图神经网络研究进展解读

zenRRan的博客

02-20

2978

点击上方，选择星标，每天给你送干货！整理：北邮 Gamma LabAAAI 的英文全称是 Association for the Advance of Artificial Intelli...

【AAAI 2021】全部接受论文列表（四）

yinizhilianlove的博客

01-14

6295

来源：AINLPer微信公众号（点击了解一下吧）编辑: ShuYini 校稿: ShuYini 时间: 2021-01-14 马上春节了，疫情又卷土而来，希望大家注意防护，爱护自己的身体 AAAI 2021论文接收情况人工智能顶级会议AAAI 2021 已经给出接收论文列表，共有1692篇论文被接收，录取率21%，比去年的20.6%稍微有些上升。单从数量上看，也比去年多了101篇。本届 AAAI 2021已经是第35 届会议了。据 AAAI 2021官方网站，这个 2021年首个人工智能顶会将全.

cst-yolo: a novel method for blood cell detection based on improved yolov7 a

01-15

cst-yolo是一种基于改进版yolov7的新颖的血细胞检测方法。YOLO（You Only Look Once）是一种基于深度学习的目标检测算法，它将目标检测问题转化为单次前向传递过程，能够更快速地检测目标。 cst-yolo在yolov7的基础上进行了改进，主要体现在以下几点。首先，对于血细胞的特征提取，cst-yolo采用了一种新的卷积神经网络结构。这种网络结构利用了深层次的特征融合和特征重用，能够更准确地提取血细胞的特征信息。其次，cst-yolo在目标检测过程中引入了注意力机制。该机制可以帮助网络更加关注血细胞相关的区域，在目标检测时提高准确率和召回率。另外，cst-yolo还采用了一种新的损失函数，用于引导网络的训练过程。这个损失函数结合了目标检测任务的特点，能够更好地指导网络学习血细胞的检测。最后，为了提高cst-yolo的检测性能，研究者还进行了大量的实验和优化工作。他们在多个公开的血细胞数据集上进行了测试，结果显示，cst-yolo相比于传统方法，在准确率和召回率上都有了显著提升。综上所述，cst-yolo是一种基于改进版yolov7的血细胞检测方法。通过引入新的网络结构、注意力机制和损失函数的优化，以及大量的实验和优化工作，cst-yolo在血细胞检测任务中取得了较好的性能表现。这种方法有望为血液相关疾病的早期诊断和治疗提供有力的支持。