GNN在推荐系统的应用——＞GC-MC与STAR-GCN

已于 2022-04-13 21:38:04 修改
阅读量2.5k 收藏 8
点赞数
分类专栏： 推荐算法笔记 文章标签： 人工智能
于 2022-04-13 21:34:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43845522/article/details/124155890
版权

GNN ——> 推荐系统（两个算法）

文章目录

前言

部分资源来自于Youtube

一、GC-MC

1、总体结构

在这里插入图片描述

首先进行one-hot编码，得到X矩阵，结合M（用户-商品交互矩阵）进行编码工作，得到U和V矩阵

然后对U和V进行解码工作，得到一个新的交互矩阵，其中原本的空白值也得到了填充

2、Graph Encoder部分

对一个用户u来说，评分过的商品得到了不同的分数，将相同评分的商品统一的利用Wi矩阵进行转化取平均，将不同分数得到的向量结果进行累加、激活，和矩阵W进行相乘，就得到了hui的表示，如下图所示（对于商品v也一样）
在这里插入图片描述

3、Graph Decoder部分

对于useri和Itemj对不同的评分定义为Mij，对应的不同概率通过softmax计算出来，Qr和QS都是可训练的参数矩阵，便于结合u和v的维度
最后将基于不同评分下的预测矩阵进行有权值的累加，就得到了最后的预测值
在这里插入图片描述

4、损失函数

损失函数的定义如下：
通过已知的评分对预测结果进行误差计算，即评分对应的Mij概率p对应的logp作为损失进行梯度下降，注意这里的概率p是0~1区间的，logp<0

在这里插入图片描述

5、实验结果

在这里插入图片描述

6、不足

输入维度过高，和用户、商品数息息相关
对于新的用户和商品有冷启动问题

二、STAR-GCN

根据以上的不足，STAR-GCN做了很多改进

1、总体架构（比较）

在这里插入图片描述
比GCMC相对而言，stacking了很多对编码器和解码器，并且权重矩阵是共享的
在这里插入图片描述

2、Transductive 和 Inductive（归纳和直推）

在这里插入图片描述
GC-MC是transductive
STAR-GCN 是 Inductive

如何实现直推？——mask

训练过程中一定几率下把部分的输入节点的embedding变成全0，这样模型就有了可以对低信息节点预测的能力，当新进来节点的时候，只需要少量的连接关系产生，就可以产生还不错的预测结果
在这里插入图片描述
下图可以直观的看出两个模型解码器的区别，GCMC如前文所说，主要是对已知评分链路的预测，而STAR-GCN主要是对X矩阵的还原（图中绿色的公式）

在这里插入图片描述

3、LOSS部分

L是所有编码解码器对中产生的Lt和Lr累加产生的公式

Lt是在编码后根据预测值产生的误差。公式在下图中可以看到，其实就是通过编码之后产生的User与Item的embedding进行内积运算（我们认为这就是我们需要的预测值，很常见的想法），然后与真实的评分作差值
在这里插入图片描述

Lr是在解码后与原本X相比产生的误差
公式如下图所示
在这里插入图片描述

4、leakage Issue的避免

预测的时候可能会遇到这样的问题：预测值已经在训练中就已经被纳入计算了
这个事GCN常见的问题，因为GCN训练的时候会将所有的边通过邻接矩阵纳入进来，答案就被涵盖进来，就会出现过拟合问题

如何解决：把需要预测的边直接拿掉
下图中U1和V1之间有边，但是训练时候不能放进去
在这里插入图片描述

5、实验结果

从实验结果来看可以发现，Lr和Leakage Issue的避免都是有显著作用的
recurrent指标代表的是每对编解码器是否通用参数，但是不同数据下是否相同差别不是很明显，所以为了降低时间复杂度，可以共享参数

可用的训练数据的信息越大，对模型的提升效果不明显，代表了该算法较好地解决了cold start的问题。
在这里插入图片描述

正经放
关注
  • 0
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
GNN-第三方库：DGL【图神经网络框架，支持对异构图的处理，开源相关异构图神经网络的代码，在GCMC、RGCN等业内知名的模型实现上也取得了很好的效果】
u013250861的博客
10-31 948
DGL库的逻辑层使用了顶点域的处理方式，使代码更容易理解。同时，又在底层的内存和运行效率方面做了大量的工作，使得框架可以发挥出更好的性能。
基于GNN的社交推荐系统
weixin_44760744的博客
11-27 2420
发表于2019年WWW 《Graph Neural Networks for Social Recommendation》论文阅读笔记 GNN，融合了节点信息以及结构信息，在图结构数据中学习。在社交推荐系统中可以将用户-用户社交图，用户-项目图作为系统中的数据，学习用户和项目的特征，因此GNN在处理的时候有很大的优势。 问题：基于GNN建立社交推荐系统面临挑战： （1） 需要从用户-项目图，社交图中获得用户特征，怎样结合这两个图； （2） 用户-项目图中不仅包含用户项目之间的交互，还有评分。怎样获得用户项目
图神经网络gnn论文推荐
11-02
内含本人学习图神经网络时阅读的论文，非常推荐想要入门和进一步了解图神经网络的朋友下载阅读。
图网络相关论文和代码（gnn gcn graphsage gat gas dgcn sim-gnn）
06-03
图网络相关论文和代码（gnn gcn graphsage gat gas dgcn sim-gnn）
GNN-Recommendation：利用图神经网络进行高效推荐
最新发布
gitblog_00091的博客
04-05 533
GNN-Recommendation：利用图神经网络进行高效推荐 项目地址:https://gitcode.com/ZZy979/GNN-Recommendation 在大数据和人工智能时代，推荐系统已经成为了互联网产品中的重要组成部分，它能够为用户提供个性化的内容或服务。而GNN-Recommendation 是一个基于图神经网络（Graph Neural Network, GNN）的开源推荐...
GNN概述及Numpy实现Semi-GCN(组会报告)1
08-03
•背景[1]• 深度学习在图像、视频和文本应用广泛，从数据中挖掘出复杂的模式的表达能力已得到公认。• 另一方面，Graph在现实世界中无处不在，表示对象以及关系
GC调优常用工具基础工具和Arthas
＊King＊的博客
09-20 3089
JDK提供的工具 在 linux 中，一般自带了 OpenJdk，一般情况下 JPS 等命令不能用，要么选择去安装 JPS 等插件，要么把 OpenJdk 卸载，去重新安装 Oracle 的 JDK，推荐重新安装。 在 windows 上，就是这些 exe。 jps 列出当前机器上正在运行的虚拟机进程，jps从操作系统的临时目录上去找（所以有一些信息可能显示不全） 常用参数 -q :仅仅显示进程， -m:输出主函数传入的参数. 下的 hello 就是在执行程序时从命令行输入的参数 -l: 输出应用程
GNN社交推荐系统
m0_53497128的博客
12-16 876
社交推荐系统
【论文阅读】GNN在推荐系统中的应用
qq_33934427的博客
05-29 1498
【论文阅读】GNN在推荐系统中的应用
GNN 推荐系统综述 - Graph Neural Networks in Recommender Systems: A Survey
SmartLab307的博客
12-01 853
本文是一篇推荐系统综述，介绍了Graph Neural Networks，Recommender System方面的相关内容
图神经网络GNN在推荐系统的应用：综述
weiyaner的博客
04-02 4486
参考： 论文1： 《Graph Neural Networks in Recommender Systems: A Survey》 https://arxiv.org/pdf/2011.02260.pdf 论文2： 《Graph Neural Networks for Recommender Systems: Challenges, Methods, and Directions》 https://arxiv.org/pdf/2109.12843.pdf 1 介绍 1.1 推荐系统发展的三个阶段 回顾一
《图神经网络推荐系统》2020综述论文
11-07
随着网络信息的爆炸式增长，推荐系统在缓解信息过载方面发挥了重要作用。由于推荐系统具有重要的应用价值，这一领域的研究一直在不断涌现。近年来，图神经网络(GNN)技术得到了广泛的关注，它能将节点信息和拓扑结构自然地结合起来。
GNN-RL-Model-Compression:GNN-RL压缩
04-12
GNN-RL-模型压缩GNN-RL压缩：使用多阶段图嵌入和强化学习的拓扑感知网络修剪依存关系当前代码库是在以下环境下测试的： Python 3.8 PyTorch 1.8.0（CUDA 11.1） 火炬视觉0.7.0 1.6.1GNN-RL频道修剪在这项工作中，...
图神经网络 - Python实现LSTM-GNN时间序列预测
11-20
图神经网络 | Python实现LSTM-GNN时间序列预测 LSTM-GNN用于病人的结果预测：一个混合模型，结合了用于提取时间特征的长短期记忆网络（LSTM）和用于提取病人邻域信息的图谱神经网络（GNN）。 关于预测重症监护室...
4-2+基于GNN的社交推荐算法设计和应用.pdf
03-18
4-2+基于GNN的社交推荐算法设计和应用
GCMC - Graph Convolutional Matrix Completion 图卷积矩阵补全 KDD 2018
热门推荐
知行合一，止于至善
10-25 1万+
文章目录1 相关介绍1.1 背景1.2 side information1.3 contributions1.4 相关介绍自编码器矩阵分解模型Matrix completion with side information2 在二部图中矩阵补全作为一种连接预测2.1 符号定义2.2 Revisiting graph auto-encoders 图自编码器2.3 Graph convolutional...
【推荐系统】User-Item CF：GC-MC
zzy_NIC的博客
01-24 695
本次解读的文章是 2017 年 arXiv 的一篇基于图卷积神经网络的用户物品协同过滤推荐算法论文，名为《Graph Convolutional Matrix Completion》
开源图神经网络框架DGL升级：GCMC训练时间从1天缩到1小时，RGCN实现速度提升291倍...
量子位
10-15 1375
乾明 编辑整理量子位 报道 | 公众号 QbitAI又一个AI框架迎来升级。这次，是纽约大学、亚马逊联手推出图神经网络框架DGL。不仅全面上线了对异构图的支持，复现并开...
jvm 性能调优工具之 jstat
java、c++、机器学习方向King
09-30 664
转载自：https://www.jianshu.com/p/213710fb9e40 概述 Jstat是JDK自带的一个轻量级小工具。全称“Java Virtual Machine statistics monitoring tool”，它位于java的bin目录下，主要利用JVM内建的指令对Java应用程序的资源和性能进行实时的命令行的监控，包括了对Heap size和垃圾回收状况的监控。 ...
gnn捆绑推荐推荐系统模型
10-11
GNN捆绑推荐推荐系统模型是一种基于图神经网络的推荐系统模型，它将用户、物品和交互行为建模为一个图结构，并通过图神经网络对图中节点和边进行表示学习和特征提取，从而实现推荐任务。 该模型的核心思想是将用户、物品和交互行为看作图中的节点，将它们之间的关系看作图中的边，然后通过图神经网络对节点和边进行表示学习和特征提取。具体来说，该模型包括以下几个步骤： 1. 构建图结构：将用户、物品和交互行为构建成一个图结构，其中节点表示用户、物品和交互行为，边表示它们之间的关系。 2. 节点表示学习：通过图神经网络对节点进行表示学习，得到每个节点的向量表示，表示该节点的特征。 3. 边表示学习：通过图神经网络对边进行表示学习，得到每条边的向量表示，表示该边的特征。 4. 推荐计算：根据节点和边的特征，计算用户对物品的兴趣度，并进行推荐。 GNN捆绑推荐推荐系统模型具有以下优点： 1. 能够充分利用用户、物品和交互行为之间的关系，提高推荐效果。 2. 能够处理稀疏数据，适用于大规模推荐系统。 3. 能够自适应地学习节点和边的特征，适用于不同类型的推荐任务。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值