图卷积：从GCN到GAT、GraphSAGE

已于 2023-07-13 16:39:48 修改
阅读量476 收藏 4
点赞数
文章标签： 深度学习 神经网络 机器学习
于 2022-08-17 20:12:55 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/akaweige/article/details/126392871
版权

4a1892b0c34b0fcfa6847fcf274351bf.png

 图模型总体上可以分为两大类：一是random-walk游走类模型，另一类就是GCN、GAT等卷积模型了。

1. 为什么出现GCN来处理图结构

在图像领域，CNN被拿来自动提取图像特征的结构，但是CNN处理的图像或者视频数据中像素点（pixel）是排列成成很整齐的矩阵，虽然图结构不整齐（不同点具有不同数目neighbors），但是不是可以用同样的方法去抽取图的的特征呢？

于是就出现了两种方式来提取图的特征。一是空间域卷积（spatial domain)，二是频域卷积（spectral domain）。第一种方式由于每个顶点提取出来的neighbors不同，处理上比较麻烦，同时它的效果没有频域卷积效果好，没有做深究。因此，现在比较流行、工程上应用较多的为频域卷积。

2.GCN

GCN的卷积核心公式： Hl+1=σ(D−1/2AD−1/2HlWl)

GCN计算方式上很好理解，本质上跟CNN卷积过程一样，是一个加权求和的过程，就是将邻居点通过度矩阵及其邻接矩阵，计算出各边的权重，然后加权求和。

D负责提供权值的矩阵，邻接A矩阵控制应该融合哪些点, H表示上一层的embedding参数

 

GCN首次提出了卷积的方式融合图结构特征，提供一个全新的视角。

主要缺点：1.融合时边权值是固定的&#x

最低0.47元/天 解锁文章
AKA老实人
关注
基于图神经网络（GNN）的节点分类实战：从GCN到GraphSAGE
Programming Talk
03-14 472
本文通过一个完整的实战案例，展示了如何使用GCN和GraphSAGE对图节点进行分类。我们详细介绍了数据准备、模型定义、训练和评估的步骤，并提供了可运行的代码。希望本文能为读者在实际项目中应用图神经网络提供实用的指导和启发。
图神经网络：GAT在GraphSAGE下的实现（基于tensorflow 1.x）
2401_85325519的博客
06-03 954
在GraphSAGE+GNN的实现中，对邻居节点采用某种方式聚合计算（例如求向量均值），再和中心节点拼接的方式，GraphSAGE固定每层采样的个数，GNN固定层数，模型学习的就是**每一层邻居聚合之后的W以及中心节点向量的W，以及最后一个分类的全连接**。将GNN换为GAT之后，还是采用邻居聚合计算的方式（带上中心节点一起加权求和），此时要多学习一个权重，比如中心节点采样了10个邻居，要学习11个权重参数，如果有8个注意力机制，就要学习88个权重参数，**这个权重参数不是直接定义学习的，而是通过一个共享的
空域图卷积神经网络理解 GCN，GAT，GraphSAGE讲解
WANGYANG的博客
03-06 4304
在这一章中，对两种空域图神经网络模型——GAT（图注意力网络）和GraphSAGE，以及对GCN（图卷积网络）的空域解读进行深入分析。这些讲解旨在帮助读者迅速掌握图神经网络领域的基础知识，使其能够在阅读相关论文时容易理解公式，从而避免对这些理论感到反感。同时，这样的基础知识也让读者将重点放在论文的创新点上，而不必纠结于概念初学的困惑。在后续的文章中，我们还将为其他模型提供详尽讲解。至此，入门篇章就告一段落了。如果这些内容能帮到您，我也会感到十分欣慰。
图神经网络三剑客：GCN、GAT与GraphSAGE
木东的博客
05-05 5827
图神经网络三剑客：GCN、GAT与GraphSAGE 2020-2-27 17:28|发布者:炼数成金_小数|查看:47856|评论: 0|原作者: 桑运鑫|来自: PaperWeekly 摘要: 2019 年号称图神经网络元年，在各个领域关于图神经网络的研究爆发式增长。本文主要介绍一下三种常见图神经网络：GCN、GAT 以及 GraphSAGE。前两者是目前应用比较广泛的图神经网络...
图神经网络GCN、GAT、GraphSAGE学习资料整理
weixin_43993244的博客
06-20 695
1.GCN https://zhuanlan.zhihu.com/p/89503068 2.GAT https://blog.csdn.net/qq_45312141/article/details/106291195 3.GraphSAGE https://zhuanlan.zhihu.com/p/79637787
Graph Neural Network（GraphSAGE，GAT）
nakaizura
01-09 4928
Graph 图论问题。如生成树算法，最短路径算法，BFS，DFS。 概率图模型。将条件概率表达为图结构，如马尔可夫链，条件随机场。 图神经网络。结合深度学习，如博主已经整理过的Graph Embedding，Graph LSTM/CNN等结合。基本上Graph+Neural Network，即使用了深度学习技术解决图问题就都是GNN的范畴了。而GNN主要是为了解决Non-Euclidean结构的...
GCN-GAT-Graphsage
12-28
这三种模型各有优势，GCN以其简单和有效性受到广泛应用，GAT则通过注意力机制提高了模型的表达能力，而GraphSAGE则解决了在大规模图上训练的效率问题。在实际应用中，根据任务需求和数据特性，可以选择适合的模型...
使用图神经网络和知识图相关算法：GCN、GAT、GAFM、GAAFM、GraphSag
10-02
GCN（Graph Convolutional Network）是图神经网络的一种基础模型，它通过图卷积操作聚合邻居节点的信息，实现了节点特征的更新。GCN借鉴了卷积神经网络（CNN）在图像处理上的成功经验，通过类比提出了图上的卷积操作...
GCN, GAT, GraphSAGE对比【整理】
Kadima08的博客
04-09 9381
GCN, GAT, GraphSAGE对比123456 1 gcn 增加深度会降低模型效果主要是因为过度平滑的问题。 现在解决这个问题的方法主要就是 skip-connection 的方法，其中包括你说的残差网络。这方面推荐你几篇论文: 1.DeepGCNs: Can GCNs Gobas Deep as CNNs? 这篇论文主要讨论了 GCN 的深度问题，文中才用了 ResGCN，DenseGCN 和 Dilation 等方法，最后效果比较明显。网络层数可以达到 56 层，并且有 3.7 个点的提升。 2
图神经网络与图注意力模型（GNN、GCN、GAT）
最新发布
12-09 4820
机器学习，深度学习，卷积神经网络处理，图像处理。
图神经网络必读的​5个基础模型: GCN, GAT, GraphSAGE, GAE, DiffPool.
数据派THU
05-06 7013
来源：机器学习算法那些事 极市平台https://zhuanlan.zhihu.com/p/136521625本文约6000字，建议阅读10分钟本篇文章将从一个更直观的角度对当前经典流行的GNN网络，包括GCN、GraphSAGE、GAT、GAE以及graph pooling策略DiffPool等等做一个简单的小结。“近年来，深度学习领域关于图神经网络（Graph Neural Networks，...
GCN+GraphASGE+GAT
lulu_Tang的博客
12-26 934
图神经网络 本文基于b站 【图神经网络】GNN从入门到精通的基础上进一步添加内容进行介绍 本文将用4个PPT总结图神经网络中的基本思想与算法 在之前的文章中我们简单介绍了图神经网络GNN与Graph embedding 接下来我们来介绍三个算法GCN、GraphASGE、GAT 简介 GNN模型主要研究图节点的表示（Graph Embedding），图边结构预测任务和图的分类问题，后两个任务也是基于Graph Embedding展开的 spectral domain 因为CNN无法处理非欧几里得
【爆火的图神经网络模型】GCN/GraphSAGE/GAT
qq_42397330的博客
04-04 2010
Graph Network 1. GCN 节点特征的更新公式： H(l+1)=σ(D~−12A~D~−12H(l)W(l)) H^{(l+1)}=\sigma\left(\tilde{D}^{-\frac{1}{2}} \tilde{A} \tilde{D}^{-\frac{1}{2}} H^{(l)} W^{(l)}\right) H(l+1)=σ(D~−21​A~D~−21​H(l)W(l)) 其中 D~\tilde{D}D~相当于加上了自环后的度矩阵，A~\tilde{A}A~相当于加上了自环后的
GraphSAGE：我寻思GCN也没我厉害！
AI科技大本营
08-05 4287
作者 | 郭必扬来源 | SimpleAI（ID:SimpleAI_1）众所周知，2017年ICLR出产的GCN现在是多么地热门，仿佛自己就是图神经网络的名片。然而，在G...
图卷积神经网络原理介绍
qq_36767053的博客
07-29 612
如何理解 Graph Convolutional Network（GCN） 空间方法的GCN论文： GCN: Kipf, T. N., & Welling, M. (2016). Semi-supervised classification with graph convolutional networks. arXiv preprint arXiv:1609.02907. GraphSAGE: Hamilton, W., Ying, Z., & Leskovec, J. (2017).
GNN | 从序列神经网络到GCN、GraphSage、GAT图模型总结
zenRRan的博客
12-18 5520
每天给你送来NLP技术干货！来自：老刘说NLP本文主要介绍图神经网络相关的内容，以从序列神经网络到图神经网络为切入点，逐步讲述从CNN到GCN，从GCN到GraphSage，从GCN到GA...
GCN与GAT的前世今生
附子Jun的博客
11-10 1991
GCN与GAT GAT是为了解决GCN的缺点产生的 GCN缺点： 对于同阶邻域上分配给不同邻居的权重是完全相同的，无法为邻居中不同节点指定不同的权重。这一点限制了模型对于空间信息的相关性的捕捉能力，也是在很多任务上不如GAT的原因。 GCN结合临近节点特征的方式和图的结构依依相关，这使得训练得到的模型在其他结构的图中泛化能力相对较差。 GAT的优点： 可以给邻居中不同节点分配不同权重。 引入注意力机制之后，只与相邻节点有关，即共享边的节点有关，无需得到整张图的信息： (1)该图不需要是无向的(
三大图网络自学总结（GAT、GraphSAGE、GCN）+RGCN
weixin_44630230的博客
10-08 4539
此内容作为补充内容 图神经网络目的都是为了学习节点的embedding，其embedding能表示节点之间的关系 模型输入为 节点x特征表示，邻接矩阵A 输出为节点新的特征 一、GAT GAT模型提出了注意力机制，汇聚邻居节点时考虑不同的权重，适用于直推式和归纳式。 直推式：所有的节点和边都是已知的 归纳式：对未知的节点和边有学习能力，新加入的节点可以进行节点分类。 使用多头注意注意力机制 二、GraphSAGE 原文题目：大规模网络的归纳式学习 特点： 1.汇聚（aggreg.
图神经网络GCN、GAT、Graphsage技术详解
GCN以其简洁有效的图卷积操作著称，GAT则通过引入注意力机制提升了模型对复杂图结构的表达能力，而GraphSAGE则通过采样和聚合策略来扩展模型的泛化能力。这些模型的提出和实现，为图结构数据的分析和学习提供了强大...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值