快速理解GNN、GCN、R-GCN、GAT

已于 2022-07-30 23:02:55 修改
阅读量4.5k 收藏 48
点赞数 7
分类专栏： 论文 文章标签： 深度学习
于 2021-09-06 20:12:07 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44295084/article/details/120137418
版权
本文深入探讨了图神经网络（GNN）的基本流程及其在节点信息融合中的作用。GCN通过对称归一化解决了GNN中聚合权重的问题。R-GCN引入了关系意识的聚合，针对不同关系的节点进行信息处理。GAT则通过注意力机制赋予节点间不同的权重，增强了模型的表现力。这些技术广泛应用于节点分类和关联预测任务。
摘要由CSDN通过智能技术生成

写在前面：仅用于记录自己学习

快速理解GNN、GCN、R-GCN、GAT

观看视频链接GNN
观看视频链接GCN
观看视频链接R-GCN
观看视频链接GAT

GNN

GNN的流程：聚合、更新、循环
在这里插入图片描述
a、b、c的常数值可以自己手动定，也可以是模型训练来定。所以，a、b、c的常数值设置经常是文章的改进点。
将邻居的信息结合到自己身上来，作为自己信息的补足。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

GCN

与GNN相比，在聚合的过程中有了特殊的变化，GCN解决上面GNN中聚合部分的a、b、c值的设定问题。
在这里插入图片描述
在这里插入图片描述
平均法存在的问题：若A的邻居只有B，但是B有许多邻居，那么， 利用公式的话，利用从B聚合来的信息对于A来说其实是失真的，有问题的，A的工资难道就是B的工资吗？显然不合理。
在这里插入图片描述

~A是邻接节点的信息加上自身信息
~D的度
在这里插入图片描述
对称归一化拉布拉斯矩阵，解决了问题。
在平均法的基础上，加了每个节点的度，做了个对称归一化。

R-GCN

在这里插入图片描述
在这里插入图片描述
根据不同的关系分别聚合不同的节点。
j是i的邻居节点，Ni是i的邻居，Nir是i节点在r关系下的邻居节点，cir可以自己设定或通过邻居节点数计算，w0hi是上一层自己的特征，hj是我在r关系下的节点，Wr是r关系下的关系矩阵，训练的矩阵，

在这里插入图片描述
在这里插入图片描述
节点分类、关联预测
DistMult：比如将两个节点的特征拼起来；也可是将两个特征直接乘起来得到一个一值（此处不是点乘）

GAT

在这里插入图片描述

W矩阵的作用是对A、B进行变形的。比如A现在是512维，想变成256，则W就是一个512*256的矩阵，长向量变成短向量。

在这里插入图片描述
多头：
在这里插入图片描述

silhouette10
关注
专栏目录
NLP 图神经网络之GNN、GCN、GAT原理理解+面试必考知识点
weixin_43646592的博客
11-27 1910
NLP 图神经网络之GNN、GCN、GAT原理理解+面试必考知识点
【图神经网络GNN & 药物----靶点预测】DTI-HETA：基于GCN和GAT在异构图上预测药物-靶点相互作用
追光者♂：记录、分享、总结、提升，现象级专栏《Python从入门到人工智能》作者，无惧黑暗，坚信曙光
03-03 1203
本次阅读的文献，依然是关于图神经网络方面，应用于医学中药物——靶点相互作用的预测。该文献是2022年上半年发表在《生物信息学简报》的一篇文章。
GNN GCN和GAT
qq_43024853的博客
03-18 2745
在阅读论文的时候突然就对GNN、GCN和GAT这几个概念有一点疑惑。 GNN和GCN的关系是什么？ 简单的查阅了一些资料，初步的有个概念就是：GNN是处理图数据这种非欧式空间数据的一种Deep Neural Network。是一个比较大的概念。 而GCN、GAT都是GNN的一种。 GCN是将卷积应用到图数据上，其数学基础呢是利用拉普拉斯矩阵 而GAT是将注意力系数应用到图数据上。 GCN和GAT都是将邻居节点的特征聚合到中心节点上（一种aggregate运算）。 但是GCN是一种全图的计算方式，一次计算就更
GNNs入门（一）GNN和GCN
最新发布
JeffanChen的博客
09-05 956
GNN 是 CNN 在图数据领域的扩展，通过消息传递机制捕捉局部和全局模式，适用于处理复杂的关系数据任务。本篇文章深入浅出讲解其中的知识点。
自然语言处理NLP——图神经网络与图注意力模型（GNN、GCN、GAT）
热门推荐
转载请标明出处，完整项目/代码详见github：https://github.com/yiru1225
12-24 1万+
本篇博客从图神经网络（GNN）的动机与模型，图卷积网络（GCN）的模型详解与公式推导引入，重点介绍图注意力网络（GAT）的目标函数推导，模型解析，并使用不同框架复现GAT论文实验，对比分析结论与论文结果，并在最后补充一定的GAT推广与优化（内附Python代码与数据集）。
GNN、GCN、GAT关系
qq_38148600的博客
11-16 1万+
图神经网络 Graph Neural Network (GNN) 参考文献：图神经网络 Graph Neural Network (GNN) 最早期的图神经网络 Graph Neural Network，简称 GNN。GNN 2009 年已经出现了，发表在论文《The graph neural network model》中。 ...
GNN、GCN、GAT图卷积神经网络学习
qq_29220369的博客
06-14 872
GNN\GCN\GAT
【图神经网络】 - GNN的几个模型及论文解析（NN4G、GAT、GCN）
AAI666666的博客
02-23 1536
图神经网络（Graph Neural Network，GNN）是指使用神经网络来学习图结构数据，提取和发掘图结构数据中的特征和模式，满足聚类、分类、预测、分割、生成等图学习任务需求的算法总称。
GCN-GAT-Graphsage
12-28
GCN（Graph Convolutional Network）、GAT（Graph Attention Network）和GraphSAGE是GNN家族中的三种主流模型，它们在节点分类、图分类和链接预测等任务上表现出色。 1. GCN（Graph Convolutional Network）： GCN...
图网络相关论文和代码（gnn gcn graphsage gat gas dgcn sim-gnn）
06-03
2. **GCN（Graph Convolutional Network）**：由Kipf和Welling在2016年提出，GCN是GNN的一个变体，受到卷积神经网络的启发。它通过一个近似局部归一化的过程，对节点特征进行平滑处理，从而获取节点的低维表示。GCN...
DGL简单示例，GCN，GAT
03-08
在本压缩包中，我们关注的是图神经网络（GNN）相关的学习资源，特别是DGL（Dynamic Graph ...通过阅读文档、查看示例代码并运行实验，用户可以深入理解GNN的工作原理，并掌握如何使用DGL构建和应用GCN和GAT模型。
图神经网络（GNN）的一些论文介绍
02-26
图神经网络论文的介绍，包括多种Graph Embedding、GCN、序列方式的处理。
GGNN和GCN的几篇论文笔记
03-10
GGNN和GCN的几篇论文笔记，介绍常用的两种图神经网络。个人笔记。
简述 GCN &&GAT(Graph Attention Networks )
笔记
10-30 1万+
Graph attention works GCN CNN处理的图像或者视频数据中像素点（pixel）是排列成成很整齐的矩阵，论文提到 Euclidean Structure。 非Euclidean Structure的网络结构，也是图论抽象意义的拓扑图。 Graph Convolutional Network中的Graph是指数学（图论）中的用顶点和边建立相应关系的拓扑图。 提取拓扑图空间特...
GNN | 从序列神经网络到GCN、GraphSage、GAT图模型总结
zenRRan的博客
12-18 4973
每天给你送来NLP技术干货！来自：老刘说NLP本文主要介绍图神经网络相关的内容，以从序列神经网络到图神经网络为切入点，逐步讲述从CNN到GCN，从GCN到GraphSage，从GCN到GA...
三大图网络自学总结（GAT、GraphSAGE、GCN）+RGCN
weixin_44630230的博客
10-08 4126
此内容作为补充内容 图神经网络目的都是为了学习节点的embedding，其embedding能表示节点之间的关系 模型输入为 节点x特征表示，邻接矩阵A 输出为节点新的特征 一、GAT GAT模型提出了注意力机制，汇聚邻居节点时考虑不同的权重，适用于直推式和归纳式。 直推式：所有的节点和边都是已知的 归纳式：对未知的节点和边有学习能力，新加入的节点可以进行节点分类。 使用多头注意注意力机制 二、GraphSAGE 原文题目：大规模网络的归纳式学习 特点： 1.汇聚（aggreg.
R-GAT实现基于方面级情感分析
学习笔记
07-12 2083
这篇博客主要是为了记录一下一套完整的深度学习模型的流程，方便以后好copy数据预处理其实比较重要，不过看模型喂入数据的格式就知道应该将数据处理成什么样了，过程肯定仁者见仁，智者见智，这里就不介绍了。这个主要是为了让你训练的时候，能够根据训练结果来决定是否结束训练，如果测试集损失一直在升高，就没必要训练了。 R-GAT模型 这个以前讲过，用的就是异构图卷积，可以参考基于注意力机制的图神经网络且考虑关系的R-GAT的一些理解以及DGL代码实现 但是方面级情感预测，每个句子里的方面可能不止一个词，自己操作一下就好
图卷积神经网络（GCN）与 图注意力神经网络（GAT）
weixin_43221749的博客
05-29 4246
显然学习顶点 i,j 之间的相关性，就是通过可学习的参数 W和映射 α(⋅) 完成的。
【深度学习】最强算法之：一文掌握GNN与GCN的异同点，再也不迷路。
商务合作 | 面试培训 | 职场规划 ==>主页扫码
04-10 7439
一文掌握GCN 和GNN的异同点
图神经网络详解：从GNN到GCN的应用与变体
"该资源是一份关于图神经网络（GNN）的深度讲解PPT，包含100页内容，详细介绍了GNN的基础知识及其多种变体，如图卷积神经网络（GCN）、基于注意力的图神经网络（GAT）、图自编码器（GAE）和变分图自编码器（VGAE）。...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值