《GraphSNN: 超越WL同构图测试的图神经网络》论文解读

最新推荐文章于 2023-06-01 21:08:53 发布
最新推荐文章于 2023-06-01 21:08:53 发布
阅读量813 收藏 2
点赞数
分类专栏： 算法 文章标签： 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45156147/article/details/124148057
版权
本文解读了《A New Perspective on “How Graph Neural Networks Go Beyond Weisfeiler-Lehman?”》论文，探讨了如何利用GraphSNN实现对WL同构图检测的超越，涉及图神经网络、通用消息传递框架等关键概念。
摘要由CSDN通过智能技术生成

来源：知乎—鱼wy
地址：https://zhuanlan.zhihu.com/p/435460527

论文：A New Perspective on “How Graph Neural Networks Go Beyond Weisfeiler-Lehman?”
链接：https://openreview.net/forum?id=uxgg9o7bI_3

（这篇论文摘自ICLR2022 open review 四个审稿人不约而同的给了8分，作者信息现在还是匿名状态不知道出自哪个大神之手）

正文


作者对设计功能强大的图神经网络(GNNs)提出了一个新的视角。简而言之，这使得一个通用的解决方案能够将图的结构属性注入到gnn的消息传递聚合方案中。作为理论基础，作者首先在邻域子图上开发了一个新的局部同构层次结构。然后，作者将消息传递聚合方案推广，从理论上描述gnn如何被设计为在WL测试之外更具表现性。为了阐述这个框架，作者提出了一种新的神经模型，称为GraphSNN，并证明了该模型在区分图结构方面严格比WL检测更具表现性。作者通过实证验证了我们的模型在不同的图形学习任务上的强度。结果表明，作者的模型在不牺牲计算的简单性和效率的情况下，不断改进了基准任务上最先进的方法。

在这里插入图片描述

同构图检测

在这里插入图片描述

WL同构图检测

在这里插入图片描述

图神经网络


通用框架

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

通用消息传递框架


在本节中，作者提出了一个通用的消息传递框架(GMP)，它能够根据重叠子图将局部结构注入到聚合方案中。在这个框架中，作者从理论上描述了gnn如何被设计成比1-WL更具表现力。

最低0.47元/天 解锁文章
Super齐
关注
专栏目录
图神经网络实战（12）——图同构网络(Graph Isomorphism Network, GIN)
盼小辉丶的博客
06-06 3185
图同构网络 (Graph Isomorphism Network, GIN) 架构受 WL 测试启发而设计的，其表达能力与 WL 测试相近，因此在严格意义上比 GCN、GAT 或 GraphSAGE 更具表达能力。在本节中，将这一架构用于图分类任务，介绍了将节点嵌入融合到图嵌入中的不同方法，GIN 通过连接求和运算符和每个 GIN 层产生图嵌入，其性能明显优于通过 GCN 层获得的经典全局均值池化。最后，我们将两个模型的预测结果进行简单的集成，从而进一步提高了准确率。
【图神经网络】图分类学习研究综述[2]：基于图神经网络的图分类
小哲的博客
06-21 1730
基于GNN的图分类学习研究综述[2]：基于图神经网络的图分类论文阅读：基于GNN的图分类学习研究综述3. 基于图神经网络的图分类3.1 卷积 论文阅读：基于GNN的图分类学习研究综述 摘要：本文首先给出图分类问题的定义和该领域的挑战；然后梳理分析了两类图分类方法——基于图相似度计算的图分类方法和基于图神经网络的图分类方法；接着给出了图分类方法的评价指标、常用数据集和实验结果对比；最后介绍了图分类常见的实际应用场景，展望了图分类领域的未来研究方向并对全文进行总结。 关键词：图分类、图核、图卷积；图池化；图神
论文阅读：GraphSNN
weixin_42331532的博客
06-19 345
GraphSNN基础讲解
graphnn:在结构化数据（字符串、图形等）之上训练计算图
05-29
2017年12月22日更新：struct2vec的pytorch版本 对于喜欢 python 的人，这里是 s2v 的 pytorch 实现： 图形 文档 (Doxygen) 先决条件 在 Ubuntu 14.04、16.04 和 Mac OSX 10.12.6 下测试 从下载并安装cuda wget http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1404/x86_64/cuda-repo-ubuntu1404_8.0.44-1_amd64.deb sudo dpkg -i cuda-repo-ubuntu1404_8.0.44-1_amd64.deb sudo apt-get update sudo apt-get install cuda 在.bashrc中，添加如下路径（假设你安装到默认路径） e
表现力超过GIN和WL同构检验的GNN：A NEWPERSPECTIVE ON “HOW GRAPH NEURAL NETWORKS GO BEYOND WEISFEILER-LEHMAN?“
tagagi的博客
12-02 1189
论文和代码，代码在补充材料中： A New Perspective on "How Graph Neural Networks Go Beyond Weisfeiler-Lehman?" | OpenReview ICLR 2022的高分论文，共4个评委，全8分 内容：提出了一种新的消息聚合框架，可以超过GIN，达到比WL同构检验更好的表达能力，并给出了该框架下的一个实例：GraghSNN 1 三种局部同构的层次 两个定义 邻居子图：即一个节点的邻居+自己，和所有以邻居+自己为端点的边 ...
ICLR2022 GNN 论文阅读笔记（一）GraphSNN
bagba的知识分享库
03-19 1720
标题 A NEW PERSPECTIVE ON “HOW GRAPH NEURAL NET- WORKS GO BEYOND WEISFEILER-LEHMAN?” （括号内的内容是个人见解，难免偏颇，望请指正） 主题 理论上刻画了Message-Passing GNN 比WL-test 的表达能力更强。（当然，这是基于判断不同graph结构的测试上的结论，GNN还有另外一个表达能力就是学习节点等特征的能力。） 基于以上理论，提出了GraphSNN，在多个区分图结构的数据集上取得了SOTA。 理论框架
论文阅读_图神经网络GIN
谢彦的技术博客
06-11 1057
这也是一篇引用量很大的图神经网络精典论文。之前研究方法着重于表示节点，引文着眼于表征图的结构。作者认为之前方法难以区分不同的图结构，并提出了一种基于GNN的方法GIN，它的区分效果与WL-Test效果相当。...
graphnn, 基于结构化数据( 字符串，图形等)的训练计算图.zip
09-17
graphnn, 基于结构化数据( 字符串，图形等)的训练计算图 2017年12月22日 更新：structure2vec的pytorch版本对于喜欢 python的人，这里是s2v的pytorch实现：https://github.com/Hanjun-Dai/pytorch_structure
【图神经网络综述】GNN原理＋落地应用+实现框架全解
热门推荐
cv君的博客
08-06 3万+
【2020 图神经网络综述】A Comprehensive Survey on Graph Neural Networks 文章转载于好我的朋友：大家可以关注他的博客： Memory逆光 博客地址：https://blog.csdn.net/weixin_44936889/article/details/107764037 未经作者允许，本文禁止转载 1. 摘要： 2. 简介： 2.1 为什么要用图表示数据： 2.2 GNN与network embedding： 2.3 GNN与Gra
GraphNN
03-29
图形神经网络
17.图神经网络(综述续)1
08-03
图神经网络（GNN）是一种专门处理图结构数据的深度学习模型，它在近年来受到了广泛关注。GNN的核心思想是通过递归地聚合节点邻居的信息来更新节点的表示，这一过程可以看作是对图结构的不断细化理解。在GNN的不同...
Weisfeiler-Lehman(WL)算法测试图同构
sxl的博客
07-28 1658
参考文献 [1]Weisfeiler-Lehman算法测试图同构 [2]图神经网络的表达能力与Weisfeiler-Lehman测试 [3]什么是Weisfeiler-Lehman(WL)算法和WL Test？ [4]Weisfeiler-Lehman(WL)算法 [5]【GNN】WL-test：GNN 的性能上界 [6]The Weisfeiler-Lehman Isomorphism Test ...
深入理解图（Graph）与图神经网络 （GNN）（其二）
极东银月MasterDia BLOG
06-01 260
图的重连通过重新定义图的连接方式，改变信息传播的路径，从而缓解了"过度压缩"的问题。Transformer 和 基于注意力机制的GNN，如GAT ，通过为每个边分配不同的权重来有效地"学习"新的图结构，这也可以理解为一种"软"重连。然而，由于某些结构特性（"瓶颈"）的存在，有些图对信息传播不太友好，导致来自过多节点的信息被"挤压"到单个节点的表示中——这种现象被称为。重连提供了一种灵活的方式来处理具有不同结构和特征的图数据，并允许我们构建更有效的模型来应对现实世界中的挑战。GNN中使用的不同图重连技术。
深入理解图（Graph）与图神经网络 （GNN）（其五）
最新发布
极东银月MasterDia BLOG
06-01 159
一种新兴且有前景的替代当前“离散”图神经网络（GNN）的方法是“连续”学习模型，它受到物理系统的启发，并在图机器学习中开启了一系列尚未深入探索的工具，如微分几何、代数拓扑和微分方程。将GNN重新构想成连续的物理过程。我们可以考虑在某个定义域上进行连续时间内的物理过程（该域也可以是连续的，例如流形，并将其离散化为图），而不是在图上进行多层消息传递。空间和时间上某个点的过程状态取代了GNN层产生的图节点的潜在特征。这个过程由一组参数控制（代表了底层物理系统的属性），这些参数取代了消息传递层中可学习的权重。
图神经网络与图同构测试
weixin_44370695的博客
08-10 930
图神经网络在很多任务上取得了非凡的成功，如： (1) Node Classification (2) Link Prediction (3) Graph Classification 图神经网络的表示能力究竟如何呢？例如，两个不一样的图，对于某个神经网络来说，是否足够可以区分呢？ 图神经网络的第kkk层为： 为了研究图神经网络的表达能力，需要一种叫multiset的东西，平常我们常说的集合是指不相同元素的聚集，但multiset却可以由重复的元素出现。 我们还需要Weisfeiler-Lehman图同构测
图同构算法（weisfeiler-Lehman）
GZGlenn的博客
12-09 1万+
https://www.slideshare.net/pratikshukla11/graph-kernelpdf 初始的时候，两个图的全部节点赋值1，然后做多轮wl，出现节点ID和各ID出现次数不一致的情况就认为不是Isomorphism ...
【GNN】WL-test：GNN 的性能上界
阿泽的学习笔记
06-09 7506
今天学习斯坦福大学同学 2019 年的工作《HOW POWERFUL ARE GRAPH NEURAL NETWORKS?》，这也是 Jure Leskovec 的另一大作。 我们知道 GNN 目前主流的做法都是通过迭代地对邻居进行聚合（aggreating）和转换（transforming）来更新节点的表示向量。而在这篇文章中，本文作者提出了一个可以用于分析 GNN 能力的理论框架，通过对目前比较流行的 GNN 变体（如 GCN、GraphSAGE 等）进行分析，其结果表明目前的 GNN 变体甚至无法区分
torch7 nngraph
u013548568的博客
03-16 1154
torch里面有连个build网络的基本概念，一个是modules，另一个则是containers。 modules是一些可以简单执行前传和后传的层 而containers则是将modules结合在一起的一个模块 1、nngraph建立一个新的网络将重点放在了网络的结构图上面，nngraph重载了call 运算符，也即()，这个重载的运算符可以应用在任何的module上面，避免了contai...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值