GNN笔记：消息传播模型

已于 2022-06-29 11:08:20 修改
阅读量960 收藏 3
点赞数
分类专栏： GNN 文章标签： GNN
于 2022-06-28 15:58:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40206371/article/details/125503962
版权

 中心节点 聚合邻居节点的信息，更新自己的表示

  • h_i^{(l)} ——第l轮的中心节点i的表示
  • h_j^{(l)}——中心节点i的邻居j，在第l轮的表示
  • e_{i,j}——节点i，j连边的信息
  • M^{(l+1)}——一个神经网络
  • N(v_i)——中心节点i的邻居

step 1的结果是，整合了l-hop邻居信息之后的embedding

step 2的结果是，整合了step1的结果，和中心节点自身的表示之后，更新了的i的表示

GNN-2008：Original GNN【消息传递（前向传播）：聚合函数+更新函数+输出函数】【核心：不动点理论】【梯度优化：用Almeida-Pineda算法，而不是用BPTT(反向传播)算法】
u013250861的博客
10-31 1082
GNN-2008：Original GNN【消息传递（前向传播）：聚合函数+更新函数+输出函数】【核心：不动点理论】【梯度优化：用Almeida-Pineda算法，而不是用BPTT(反向传播)算法】
图神经网络GNN 原理 详解 （一）
DFCED的博客
03-30 2万+
图神经网络（GNN） 一.背景 图神经网络的概念首先由 Gori 等人（2005）[16] 提出，并由 Scarselli 等人（2009）[17] 进一步阐明。这些早期的研究以迭代的方式通过循环神经架构传播邻近信息来学习目标节点的表示，直到达到稳定的固定点。该过程所需计算量庞大，而近来也有许多研究致力于解决这个难题。在本文中，图神经网络代表的是所有用于图数据的深度学习方法。 受到卷积网络在计算...
GNN学习笔记（二）：消息传递图神经网络（Message Passing GCN）
LuoMin2523的博客
06-18 3394
一、MessagePassing基类初步分析 MessagePassing(aggr="add", flow="source_to_target", node_dim=-2)（对象初始化方法）
【GNN】可视化详解图卷积和消息传递理论
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
03-22 1583
目录 简介 图卷积 消息传递 一个实际的例子 总结 简介 本文中将研究如何基于消息传递机制构建图卷积神经网络，并创建一个模型来对具有嵌入可视化的分子进行分类。 假设现在需要设计治疗某些疾病的药物。有一个其中包含成功治疗疾病的药物和不起作用的药物数据集，现在需要设计一种新药，并且想知道它是否可以治疗这种疾病。如果可以创建一个有意义的药物表示，就可以训练一个分类器来预测它是否对疾病治疗有用。我们的药物是分子式，可以用图表表示。该图的节点是原子。也可以用特征向量 x 来描述原子（它可以
PyG教程(5)：剖析GNN中的消息传播机制
LW的技术小筑
06-16 2899
众所周知，图神经网络可以从空域或谱域来对其进行研究。其中，空域角度主要借助消息传播机制来构建GNN。本文主要介绍的是消息传递机制，为下篇文章具体介绍PyG中是如何实现消息传播机制做好铺垫。...
Graph Neural Network（GNN）概述
I‘m Frank Lee
07-06 9473
什么是GNN GNN是Graph Neural Network的简称，是用于学习包含大量连接的图的联结主义模型。当信息在图的节点之间传播时GNN会捕捉到图的独立性。与标准神经网络不同的是，GNN会保持一种状态，这个状态可以代表来源于人为指定的深度上的信息。 图神经网络处理的数据就是图，而图是一种非欧几里得数据。GNN的目标是学习到每个节点的邻居的状态嵌入（embedding），这个状态嵌入是向量且...
GNN总结
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
05-05 1864
原文地址 目录 1. 图网络的分类 2. 卷积  3. 图卷积 4. 图卷积的通式 5. 参考文献 1. 图网络的分类 在最开始，我们先梳理一下经常被提到的几个术语的区别和联系，也就...
【论文分享】☆ 经典小样本GNN模型：Few-shot Learning With Graph Neural Networks【CNN+相似性度量+GCN】
vector的博客
03-27 2989
本篇文章研究了小样本、半监督和主动学习的图神经网络，并在Omniglot和Mini-Imagenet数据集上进行了实验。该模型 首先使用已训练好的**CNN**模型得到相似图中每一个图像的嵌入特征，**相似性度量**模块学习如何将集合中的嵌入特征组成一个图，**GNN**模块传播已知标签的节点特征到未知标签的节点，训练模型使得到的节点特征与分类器相连后损失最小。
图学习GNN笔记所用到的图片和ppt
最新发布
12-04
图学习GNN笔记所用到的图片和ppt为学习者提供了一个全方位的学习材料集合，从基础概念到模型架构，再到应用案例和未来方向，每个环节都有相应的视觉材料来辅助理解和记忆。这样的辅助材料对于快速掌握GNN的理念和...
【GNN】MPNN：消息传递神经网络
阿泽的学习笔记
06-08 1万+
今天学习的是谷歌大脑的同学 2017 年的工作《Neural Message Passing for Quantum Chemistry》，也就是我们经常提到的消息传递网络（Message Passing Neural Network，MPNN），目前引用数超过 900 次。 严格来说，MPNN 不是一个模型，而是一个框架。作者在这篇论文中主要将现有模型抽象其共性并提出成 MPNN 框架，同时利用 MPNN 框架在分子分类预测中取得了一个不错的成绩。 1.Introduction 深度学习被广泛应用于图像、
GNN学习笔记02 消息传递图神经网络
ritatype的博客
06-20 685
GNN学习笔记02 消息传递图神经网络 关于MessagePassing基类的具体分析参见开源学习地址：datawhale 1.MessagePassing基类的运行流程 谈到MessagePassing基类的运行流程，必须先简单介绍一下消息传递范式。简单来说，消息传递范式就是“消息”传递的过程，只是在GNN中，它传递的是邻接节点聚合信息，首先从离中心节点最远的节点开始传递，逐层更新节点信息，最后逼近中心节点，以中心节点的邻接节点聚合信息和中心节点的信息更新中心节点A的信息。最终所有节点的信息都更新了一
CNN已老，GNN来了：重磅论文讲述深度学习的因果推理（附资源）
热门推荐
THU数据派
06-19 3万+
来源：新智元本文共4263字，建议阅读8分钟。本文讲述了DeepMind联合谷歌大脑、MIT等机构27位作者发表重磅论文，提出“图网络”（Graph network），将...
图神经网络（GNN）的基本原理
KI的博客
12-21 1万+
图神经网络（GNN）的基本原理
GNN笔记：图信号处理（Graph Signal Processing）
qq_40206371的博客
06-25 7611
1 图信号处理定义 图信号处理（Graph Signal Processing，以下简称 GSP）用来处理那些定义在图上的非规则域的信号。换句话说，就是处理图上定义的信号，但信号所在域是非规则的。 2 图信号处理例子 a图： 地理上各个观测点的位置 b图： c图： 现在我们想通过对测量地及周围的温度求平均来减少这些随机噪声，我们会对每个点取其周围区域进行平均，当然为了防止失去局部温度特征（即防止Over Smooth），我们还要加上当前节点的温度： 上面这一部求和可以用矩阵表示，
GNN笔记：傅里叶变换
qq_40206371的博客
06-22 3909
傅立叶变换分为傅立叶级数和连续傅立叶变换 １　傅里叶级数 傅立叶级数适用于周期性函数，它能够将任何周期性函数分解成简单震荡函数的集合（正弦函数和余弦函数）。 １.１　频域和时域 举个例子，比如说下图： 紫色图像是一个周期函数，粉丝图像是将周期函数分解成多个简单震荡函数。 所以这个周期函数用数学公式可以表达为： 上图中的信号是随着时间变换的，所以称之为时域（Time domain） 上图就是频域（Frequency Domain）。 频域和时域本质上是一样的，不过是从另外一个
GNN笔记： random walk
qq_40206371的博客
06-21 3738
1 随机游走定义 所谓随机游走(random walk)，就是在网络上不断重复地随机选择游走路径，最终形成一条贯穿网络的路径。 从一个顶点出发，然后按照一定的概率随机移动到一个邻居节点，并将该节点作为新的当前节点，如此循环执行若干步，得到一条游走路径。 下图所示绿色部分即为一条随机游走。 2使用随机游走的好处 2.1并行化 随机游走是局部的，对于一个大的网络来说，可以同时在不同的顶点开始进行一定长度的随机游走，多个随机游走同时进行，可以减少采样的时间。 2.2 局部适应性 可以适..
GCN 笔记：图上的傅里叶变换
qq_40206371的博客
06-28 2173
1 图拉普拉斯矩阵 图拉普拉斯矩阵可以定义为： L=D-W。 其中，D 为度矩阵，W 为考虑权值的邻接矩阵。 归一化后的拉普拉斯矩阵： 1.1 散度 散度（Divergence）是向量分析的一个向量算子，将向量空间上的矢量场对应到一个标量场。 散度描述的是向量场里一个点是汇聚点还是发源点。 值为正时表示该点为发源点，值为负时表示该点为汇聚点，值为零时表示该点无源。 散度在物理上的含义可以理解为磁场、热源等。 1.1 拉普拉斯算子 在数学中，拉普拉斯算子（Laplacian）是由欧
GCN笔记：Graph Convolution Neural Network，ChebNet
qq_40206371的博客
09-03 1714
在中，我们知道了谱图卷积相当于是那么问题在于，如何设计含有可训练的、共享参数的kernel呢？
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UQI-LIUWJ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值