【论文阅读-SAGPool】Self-Attention Graph Pooling

最新推荐文章于 2024-05-08 09:38:22 发布
最新推荐文章于 2024-05-08 09:38:22 发布
阅读量2k 收藏 17
点赞数 6
分类专栏： 论文阅读 GCN 文章标签： Pooling GCN 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42534393/article/details/107198914
版权

论文地址：https://arxiv.org/abs/1904.08082
代码地址：https://github.com/inyeoplee77/SAGPool
来源：ICML 2019

本篇论文主要是改变了Topk的得分方式，也是本文的创新之处。作者认为以往的得分函数过于简单，没有考虑到图的拓扑信息，认为谱域卷积同时考虑了图的拓扑信息和节点信息，故用谱域卷积的注意力来替换。其他部分基本是参考Graph U-Net论文提出的方法。

模型架构

在这里插入图片描述
图2左图是全局池化结构，右图是分层池化结构。
全局池化结构由三个图卷积层组成，每层的输出被连接起来。节点特征在池化层之后的readout层中聚合。然后将图的特征表示传递到线性层进行分类。
分层池化架构由三个模块组成，每个模块由一个图卷积层和一个图池化层组成。每个模块的输出经过readout层后，相加再将结果输入到线性层进行分类。代码给出了分层池化架构

代码逻辑

在这里插入图片描述

卷积层

在该层可选择各种类型的图卷积，我们将Kipf＆Welling提出的广泛使用的图卷积用于所有模型。

卷积层

自注意力图池化层

SAGPool结构图
自注意力机制被广泛的应用于最近

最低0.47元/天 解锁文章
兰亭不写序
关注
  • 6
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【图神经网络论文整理】（五）—— Self-Attention Graph Pooling：SAGPool
CSDN 精品推荐
11-23 832
之后会根据学习出的Z也就是注意力分数矩阵进行池化操作，这时会定义一个超参数k，代表保留节点的比率，那么【kN】就是最终需要保存节点的个数，我们会根据注意力分数进行排序，保留分数最大的前【kN】个节点。但是上面做法也会存在局限性，它单单只考虑了图节点特征，并没有考虑图的拓扑结构，为了进一步改进，作者提出了SAGPool，该方法可以同时使用节点特征和图的拓扑结构产生更加合理的图的层次表示。为了改进池化效果，本文提出了一种新的池化方式，基于自注意力机制方式，这种方式可以同时考虑节点特征以及图拓扑结构。
Pytorch+PyG实现SAGPool实现图分类
CSDN 精品推荐
02-22 1084
本专栏整理了《图神经网络代码实战》，内包含了不同图神经网络的相关代码实现（PyG以及自实现），理论与实践相结合，如GCN、GAT、GraphSAGE等经典图网络，每一个代码实例都附带有完整的代码。
论文笔记之Self-Attention Graph Pooling
附子Jun的博客
09-23 2037
论文笔记之Self-Attention Graph Pooling 文章目录论文笔记之Self-Attention Graph Pooling一、论文贡献二、创新点三、背景知识四、SAGPool层1. SAGPool机理五、模型架构六、 实验结果分析七、未来研究 一、论文贡献 本文提出了一种基于self-attention的图池化方法SAGPool。使用图形卷积能够使池化方法同时考虑节点特征和图形拓扑。 二、创新点 该方法可以使用相对较少的参数以端到端方式学习层次表示。 利用self
探索深度学习新境界：Self-Attention Graph Pooling的PyTorch实现
最新发布
gitblog_00039的博客
05-08 646
探索深度学习新境界：Self-Attention Graph Pooling的PyTorch实现 项目地址:https://gitcode.com/inyeoplee77/SAGPool 在这个数据日益图形化的时代，图神经网络（Graph Neural Networks）成为了理解和操作复杂结构数据的关键工具。而Self-Attention Graph Pooling，正是在这一领域的创新性突破，...
《Self-Attention Graph Pooling》阅读笔记
weixin_45285795的博客
06-16 1013
《Self-Attention Graph Pooling》阅读笔记前言一、模型1.自注意图池化1).自注意力掩膜2).图池化3).SAGPool的变体1.多跳形式2.堆叠形式3.多头形式2.具体结构1).卷积层2).读出层3).全局池化模型4).层次池化模型二、实验1.数据集2.对比试验3.变体实验4.节点数的影响总结 前言 因为自己目前在做的实验也有可能涉及到图池化的方法，所以近期读的关于图池化的文章比较多。经常会在文章的相关工作中看到SAGPool，今天终于抽空把它看掉了。这篇文章最主要的贡献就是利
SAGPool - Self-Attention Graph Pooling 图分类 图池化方法 ICML 2019
热门推荐
知行合一，止于至善
11-30 1万+
文章目录1 相关介绍背景创新性2 相关工作基于拓扑的池化全局池化分层池化3 方法3.1 基于self-attention的图池化方法：SAGPoolSelf-attention mask图池化SAGPool的变种3.2 模型架构卷积层readout层全局池化架构分层池化架构4 实验数据集GNNs的评估训练过程BaselinesSAGPool的变种结果总结5 分析全局池化和分层池化考虑图拓扑结构的影...
SAGPool笔记
qq_40515250的博客
04-21 689
Self-Attention Graph Pooling 图分类 图池化方法 ICML 2019 转载：https://blog.csdn.net/yyl424525/article/details/103327551 Arxiv:https://arxiv.org/abs/1904.08082 github链接：https://github.com/inyeoplee77/SAGPool ...
relation-graph图谱移动端适配拖动修复代码
03-18
relation-graph图谱移动端适配拖动修复代码
Self-supervised Graph Learning for Recommendation
12-20
自监督学习用于推荐
2019-KDD-KGAT, Knowledge Graph Attention Network for Recommendat
08-08
2019-KDD-KGAT, Knowledge Graph Attention Network for Recommendation-笔记-rrrrr1
3d-force-graph.rar
08-05
A web component to represent a graph data structure in a 3-dimensional space using a force-directed iterative layout. Uses ThreeJS/WebGL for 3D rendering and either d3-force-3d or ngraph for the ...
Python-Pytorch实现MaxPoolingLoss
08-11
Pytorch实现MaxPoolingLoss
microsoft-graph-docs：Microsoft Graph REST API的文档
02-26
Microsoft Graph文档 感谢您对Microsoft Graph文档的关注！ 为了获得最佳体验，建议您在上查看此内容。 给我们您的反馈 您的反馈意见对我们很重要。 要让我们知道您在文档中发现的任何问题，请在此存储库中。 我们...
SAGPool图分类
周先森爱吃素的博客
11-27 2438
本文介绍使用SAGPool对D&D数据集进行图分类。
GNN Pooling(五)：Self-Attention Graph Pooling，2019ICML
qq_36618444的博客
07-13 2833
目录Graph PoolingMethodSelf-Attention Graph Pooling Graph Pooling 本文的作者来自Korea University, Seoul, Korea。话说在《请回答1988里》首尔大学可是很难考的，韩国的高考比我们的要更激烈乃至残酷得多。 本文提出了一种基于自注意的图池方法。使用图形卷积使我们的池化方法同时考虑节点特征和图形拓扑。为了确保公平的比较，对现有的池方法和我们的方法使用了相同的训练过程和模型架构。实验结果表明，该方法在参数合理的情况下，能够在基
SAGPool原理和python实现
qq_35090060的博客
05-18 167
SAGPool原理 python实现 import os import urllib import torch import torch.nn as nn import torch.nn.init as init import torch.nn.functional as F import torch.utils.data as data import numpy as np import scipy.sparse as sp from zipfile import ZipFile from sklearn
GNN Pooling(七)：CLIQUE POOLING FOR GRAPH CLASSIFICATION，ICLR2019
qq_36618444的博客
07-17 592
本文作者来自于University of Cambridge，本文是一篇workshop，并且其内容也十分简单。本文提出了一种以clique（团）作为单元池的新型图池操作。由于这种方法是纯拓扑的，而不是特性的，它更容易解释，而且完全非参数化。该操作在图卷积网络(GCN)和GraphSAGE架构中实现，并通过标准图分类基准测试。此外，我们还探索了池化与规则图（像素图）的兼容性，演示了在使用我们的机制替换标准卷积神经网络(CNNs)中的2*2池化时具有竞争性的性能。 Model 话不多说，上图。 clique
图神经网络必读的​5个基础模型: GCN, GAT, GraphSAGE, GAE, DiffPool.
数据派THU
05-06 4679
来源：机器学习算法那些事 极市平台https://zhuanlan.zhihu.com/p/136521625本文约6000字，建议阅读10分钟本篇文章将从一个更直观的角度对当前经典流行的GNN网络，包括GCN、GraphSAGE、GAT、GAE以及graph pooling策略DiffPool等等做一个简单的小结。“近年来，深度学习领域关于图神经网络（Graph Neural Networks，...
图神经网络中的Graph Pooling
zenRRan的博客
11-13 2229
点击上方，选择星标或置顶，每天给你送干货！阅读大概需要4分钟跟随小博主，每天进步一丢丢来自| CSDN博客 作者 | 木盏https://blog.csdn.net/leviopk...
hierarchical-graph-attention-network-master的数据集
09-17
hierarchical-graph-attention-network-master是一个使用分层图注意力网络（Hierarchical Graph Attention Network）进行训练和预测的项目。该项目主要针对一种特定的数据集。 该数据集可以是一个图数据集，其中...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值