Graph Convolutional Matrix Completion，GC-MC

最新推荐文章于 2023-01-24 11:11:05 发布
最新推荐文章于 2023-01-24 11:11:05 发布
阅读量877 收藏 4
点赞数 2
分类专栏： 论文阅读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hhmy77/article/details/116428267
版权

文章目录

本文首发于公众号：code路漫漫，欢迎关注
在这里插入图片描述
一篇17年的文章，图推荐里面常见的baseline

Motivation

两种类型的推荐系统

  1. content based：从用户和物品的特征入手
  2. 协同过滤：从交互历史入手

本文的idea是把协同过滤技术应用在图上
用户物品的交互历史可以自然而然的表示成二部图上的链接，图上的结点分别是用户和物品。转换为图后，预测评分任务就变为预测结点之间的链接。

Contribution

提出了GC-MC框架（a graph-based auto-encoder framework for matrix completion），在图上卷积，在六个数据集上达到了SOTA的效果
在这里插入图片描述

Solution

看上图可以知道，GCN技术的几个问题

  1. 如何更有效地生成用户和物品的表征
  2. side information 如何提高model效果
  3. encoder和decoder的实现细节

下面一一介绍

encoder

使用交互物品的特征

用户和物品的处理方式相同，接下来只介绍生成用户表征的处理方式
在这里插入图片描述
encoder可以写成 Z = f ( X , A ) Z=f(X,A) Z=f(X,A)的形式，将 N X D NXD NXD维的特征矩阵 X X X和图邻接矩阵 A A A作为输入，得到 N X E NXE NXE维的embedding矩阵 Z Z Z
前面说的encoder可以生成用户和物品的表示，那么有公式 [ U , V ] = f ( X , A ) [U,V] =f(X,A) [U,V]=f(X,A)，其中U是用户的表示，V是物品的表征

考虑到评分类型R可能由多个类型组成，我们对每个类型的评分单独抽取出来做一个矩阵，那么 Z Z Z的表示形式变为
[ U , V ] = f ( X , M 1 , . . . , M r ) [U,V] = f(X,M_1,...,M_r) [U,V]=f(X,M1​,...,Mr​)，这里 M r M_r Mr​是用户i评分r的交互矩阵，交互过的值为1，没交互过的值为0

这也是论文的一个创新点，之前的encoder直接把用户u的交互矩阵M传进去，而这里先把M按照评分数量拆分成多个0-1矩阵，然后再传入

用户可以被它交互过的物品表示
在这里插入图片描述
这里j表示物品j，i是用户i，c是常量，xj是物品j的feature，Wr是特定的评分矩阵
当我们计算出u之后，使用公式2计算用户i的中间输出（也就是dense layer的输出） h i h_i hi​
在这里插入图片描述
最后传给公式3就能得到用户的最终表示 u i u_i ui​了
在这里插入图片描述

公式3是encoder的雏形，这里只用了物品的feature，稍后我们还会看到它的改进形式

引入边信息

side information可以用来增强用户的表示，但是当边信息本身含有的信息量不足的时候，直接将其和用户特征一起输入到网络中会导致模型性能下降
在论文中，side information使用单独的通道处理（separate processing channel）
考虑用户i的表示生成
在这里插入图片描述
其中 u i = σ ( W h i ) u_i = \sigma(Wh_i) ui​=σ(Whi​)部分等同于公式3， x i f x_i^f xif​是用户i本身的特征， b b b代表bias
那么最终的用户表征由两部分组成

  1. 交互物品的feature
  2. 本身的feature，这里称为边信息

至此encoder的表示如下：
在这里插入图片描述

decoder

decoder的作用是接受用户、物品的表征用于生成重构矩阵，然后把重构矩阵和真实的结果矩阵比较计算Loss，使用梯度下降训练整个model
在这里插入图片描述

在这里插入图片描述在这里插入图片描述

这里decoder计算方法就是公式4和公式5所述

训练方法

在这里插入图片描述

权重分配

这一块论文讲得不是很清楚

之前提到，论文把不同类型的评分拆分成单独的矩阵处理，然而并不是所有用户和物品都拥有相同数量的评分。这会导致某些参数的优化次数非常少
对于encoder的权重计算方法，使用ordinal weight sharing策略
在这里插入图片描述
T s T_s Ts​是什么论文里没说

对于decoder的权重计算方法，使用basis weight sharing策略
在这里插入图片描述

模型的整体框架
在这里插入图片描述

Evaluation

数据集
在这里插入图片描述
score：
在这里插入图片描述
在这里插入图片描述

使用边信息的效果
在这里插入图片描述
在这里插入图片描述

Summarization

本文在encoder和decoder上进行改进

  1. 对评分矩阵进行拆分
  2. 使用单独通道处理边信息（只使用交互历史是协同过滤思想，论文中还引入和物品、用户本身的feature，这被称为边信息）
  3. 使用特殊的权重计算方法

论文的code：https://github.com/riannevdberg/gc-mc

hhmy77
关注
专栏目录
论文｜ Graph Convolutional Matrix Completion
lxq980218的博客
12-28 536
算是在矩阵补全领域看的另一篇论文，大佬真的太太太厉害了。日常仰望大佬并流泪。 核心观点 Intersection data such as movie ratings can be represented by a bipartitie user-item gtaph with labeled edges denoting observed ratings. This representation is especially useful in the setting where additional g
Graph Convolutional Matrix Completion
qq_45312141的博客
09-13 778
Graph Convolutional Matrix Completion1、Revisiting graph auto-encoders 图自编码器1.1 符号定义1.2 Revisiting graph auto-encoders 图自编码器1.3 Graph convolutional encoder 图卷积编码器1.4 Bilinear decoder 双线性解码器1.5 模型训练 1、Revisiting graph auto-encoders 图自编码器 1.1 符号定义 MMM:评分矩阵，维
GCMC - Graph Convolutional Matrix Completion 图卷积矩阵补全 KDD 2018
热门推荐
知行合一，止于至善
10-25 1万+
文章目录1 相关介绍1.1 背景1.2 side information1.3 contributions1.4 相关介绍自编码器矩阵分解模型Matrix completion with side information2 在二部图中矩阵补全作为一种连接预测2.1 符号定义2.2 Revisiting graph auto-encoders 图自编码器2.3 Graph convolutional...
论文解析：Graph Convolutional Matrix Completion
da_kao_la的博客
03-11 2378
论文解析：Graph Convolutional Matrix Completion 作者：Rianne van den Berg, Thomas N. Kipf, Max Welling（也是发表GCN的团队） 会议：KDD 2018 方法 图变分自编码器(GAE)的应用（GAE的博客），算法核心就是下面的图 将推荐系统的user-item交互建模为二分图，user和item分别是二分图的...
Graph Convolutional Matrix Completion——tensorflow代码理解③内部模型
weixin_40459958的博客
05-09 373
模型准备 占位符 placeholders = { #用户特征矩阵 [I|0] (943, 2625) 'u_features': tf.sparse_placeholder(tf.float32, shape=np.array(u_features.shape, dtype=np.int64)), #电影特征矩阵 [0|I] (1682, 2625) 'v_features': tf.sparse_placeholder(tf.float32, shape=np.array(v_
【GNN】GCMC：GNN 在推荐系统中的应用
阿泽的学习笔记
06-09 3826
今天学习的是 KDD18 的一篇论文《Graph Convolutional Matrix Completion》，作者是阿姆斯特大学的同学，Thomas N. Kipf 大佬是二作。 前面我们介绍了 Kipf 大佬利用变分自编码器（VGAE）来完成链接预测问题，链接预测问题放在矩阵中可以被认为是矩阵补全。这篇论文在 VGAE 的基础上提出了 GCMC 模型，设计了一个可微的基于消息传递的图自编码框架进行矩阵补全（matrix completion），同时考虑边信息和网络结构，并分析了边信息在推荐系统冷启动
GNN2讲义pdf超详细
10-18
本文将对GNN2讲义pdf进行详细的知识点总结，涵盖了Graph Convolutional Matrix Completion（GC-MC）、AutuRec、CF-NADE、Matrix Factorization（MF）等主题。 1. 图神经网络（GNN） 图神经网络是一种基于图结构的...
GNN深入解析：图卷积矩阵补全(GCMC)详解
这篇讲义主要涵盖了图神经网络（GNN）的相关知识，特别是针对图卷积网络在矩阵补全任务中的应用，包括Graph Convolutional Matrix Completion (GC-MC)模型。GNN是一种深度学习技术，它能够处理非欧几里得数据，如图...
论文笔记：Graph Convolutional Matrix Completion
qq_44015059的博客
07-17 2489
前言 内容转载自:https://blog.csdn.net/yyl424525/article/details/102747805 仅作为学习笔记之用 论文链接：https://www.kdd.org/kdd2018/files/deep-learning-day/DLDay18_paper_32.pdf github：https://github.com/SongFGH/gc-mc-pytorch(pytorch版本复现) 图卷积神经网络（GCN）是现在深度学习的热点之一，这篇文章基于user-item
Graph Convolutional Matrix Completion——tensorflow代码理解④算法思路
weixin_40459958的博客
05-10 584
虽说在问题背景上，这片模型是基于Geometric matrix completion with recurrent multi-graph neural networks的改进，但究其算法则是采用的Variational graph auto-encoders 是将前者的GCN+LSTM换成了更加整体性的图自编码器 以下自编码器的基础知识来自https://zhuanlan.zhihu.com/p/78340397 本模型的理解参考自https://blog.csdn.net/yyl424525/arti
Graph Convolutional Matrix Completion——tensorflow代码理解①准备部分
weixin_40459958的博客
05-09 384
一.准备工作 import argparse import datetime import time import tensorflow as tf import numpy as np import scipy.sparse as sp import sys import json 1.随机数 seed = int(time.time()) np.random.seed(seed) tf.set_random_seed(seed) 2.设置命令行属性默认值 ap = argparse.Argument
【论文】GC-MC论文相关
MatchaApril的博客
07-08 930
GC-MC论文阅读相关
【推荐系统】User-Item CF：GC-MC
zzy_NIC的博客
01-24 785
本次解读的文章是 2017 年 arXiv 的一篇基于图卷积神经网络的用户物品协同过滤推荐算法论文，名为《Graph Convolutional Matrix Completion》
GNN在推荐系统的应用——＞GC-MC与STAR-GCN
weixin_43845522的博客
04-13 2832
GNN ——> 推荐系统（两个算法） 文章目录GNN ——> 推荐系统（两个算法）前言一、GC-MC1、总体结构2、Graph Encoder部分3、Graph Decoder部分4、损失函数5、实验结果6、不足二、STAR-GCN1、总体架构（比较）2、Transductive 和 Inductive（归纳和直推）如何实现直推？——mask3、LOSS部分4、leakage Issue的避免5、实验结果 前言 部分资源来自于Youtube 一、GC-MC 1、总体结构 首先进行one-ho
协同推荐/协同过滤（collaborative filtering）和 协同适应方法（co-adaptation approach）
wydbyxr的博客
09-04 2316
协同推荐/协同过滤（collaborative filtering） 　　它最早源自电子商务，之后应用越来越广,在很多不同的领域都有协同推荐算法的相关应用，例如医疗等。 　　简单来说是利用某兴趣相投、拥有共同经验之群体的喜好来推荐用户感兴趣的信息，个人通过合作的机制给予信息相当程度的回应（如评分）并记录下来以达到过滤的目的进而帮助别人筛选信息，回应不一定局限于特别感兴趣的，特别不感兴趣信息的纪...
【JVM】GC模型（知识梳理）
weixin_44938441的博客
03-24 931
文章目录垃圾判断算法引用计数算法根搜索算法GC算法标记——清除标记——整理复制算法分代算法内存回收GC的时机垃圾收集器详述Serial收集器ParNew收集器Parallel Scavenge收集器Parallel Old收集器CMS "( Concurrent Mark Sweep ) 收集器 垃圾判断算法 引用计数算法 给对象添加一个引用计数器，当有一个地方引用它，计数器加1，当引用失效，计数...
复现riannevdberg / gc-mc踩坑①
weixin_40459958的博客
04-04 437
1.创建虚拟环境 conda create -n env_name python=2.7 2,清华镜像 -i https://pypi.tuna.tsinghua.edu.cn/simple 3.No module named ‘cPickle’ #import cPickle as pk 改成 import pickle as pk 4.No module named ‘urllib2’ #改成 import urllib.request resp=urllib.request.urlopen('htt
DGL图异构神经网络
weixin_43964189的博客
12-31 5952
DGL图异构神经网络 什么是异构图？ 传统同构图（Homogeneous Graph）数据中只存在一种节点和边，因此在构建图神经网络时所有节点共享同样的模型参数并且拥有同样维度的特征空间。而异构图（Heterogeneous Graph）中可以存在不只一种节点和边，因此允许不同类型的节点拥有不同维度的特征或属性。 这一特点使得异构图的应用十分广泛。事实上，如果用图来描述我们和周围事物的关系就会发现...
graph convolutional matrix completion
最新发布
03-16
图卷积矩阵补全是一种基于图卷积神经网络的矩阵补全方法，用于预测缺失的矩阵元素。它将矩阵看作一个图，将矩阵中的每个元素作为节点，利用图卷积神经网络学习节点的嵌入表示，从而预测缺失的元素。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值