Pyg中的GraphSage的SAGEConv的学习，理解NeighborSampler采样器的sizes在图神经网络上的作用（分层采样）

最新推荐文章于 2024-08-26 08:31:38 发布
最新推荐文章于 2024-08-26 08:31:38 发布
阅读量1.1k 收藏
点赞数 3
分类专栏： 图神经网络 Graphsage 文章标签： 学习 神经网络 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_51616008/article/details/138443249
版权
本文通过学习B站Up背包2004的GraphSage教程，探讨了NeighborSampler的独特采样方法，包括指定大小的层次采样，以及如何将邻接节点的属性聚合到目标节点的过程，特别提到了SAGEConv在处理这类图卷积操作中的作用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文如有不妥之处，敬请读者在评论区指正，作者将及时修正。

在学习B站Up‘背包2004’的GraphSage学习视频中（强烈推荐但需要基础

视频号：BV1za4y167hx），我遇到了一些不理解的地方，下面是学习笔记；
在这里插入图片描述
在这里插入图片描述

NeighborSampler的采样很特殊，理解采样sizes = [2, 3]；

第一层采样：对于一个节点‘0’对外采样2个节点‘3’、‘4’，然后得到节点集[‘0’、‘3’、‘4’]。

第二层采样：对于节点集[‘0’、‘3’、‘4’]中的每一个节点对外随机采样3个节点，其中可能重复，可能采样到自身节点，如图所示；
在这里插入图片描述

在这里插入图片描述
这里的采样规则是为了Graph的聚合操作（这里的聚合很像image的卷积操作），如采样-聚合01图中的16、17、3的节点属性将聚合到4节点自身上。使用pyg的SAGEConv算子进行操作；
在这里插入图片描述
视频里面的参数；
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

基于PyG的Cora数据集和NeighborSampler实现图神经网络中的Mini-Batch
a4s4d44444的专栏
12-22 205
Mini-batching 是图神经网络（GNNs）中处理大规模图的常用技术。借助，我们可以高效地采样邻居节点并在每个批次的小型子图上进行计算。# 初始化模型和优化器使用PyG的实现mini-batching可以在大规模图数据集上实现可扩展且高效的训练。
图神经网络实战（9）——GraphSAGE详解与实现
盼小辉丶的博客
05-06 5206
本节介绍了 GraphSAGE 框架及其两个组成部分——邻居采样算法和三个不同的聚合算子，其中邻居采样是 GraphSAGE 能够高效处理大规模图的核心。并使用 PyTorch Geometric 构建 GraphSAGE 模型在 PubMed 数据集上执行节点分类，GraphSAGE 虽然准确率略低于 GCN 或 GAT 模型，但它是常用于处理大规模图数据的高效框架。
PyG-基于pyg内置函数Conv实现对cora数据的分类
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
02-02 962
目录 基础 参考 GCN公式 矩阵基础 矩阵形式 单个节点 代码 结果 基础 参考 参考本人写的另一篇博客pyg框架初认识 pyg手册参考 pyg自带基准数据集 pyg快速入门论文 入门学习参考 GCN理解https://zhuanlan.zhihu.com/p/89503068 pyg入门实战1https://zhuanlan.zhihu.com/p/91229616 pyg-cora数据集理解https://zhuanlan.zhihu.com/p/78...
SAGEConv
探索人工智能革命，深入算法原理与创新应用，未来科技无限可能。
01-15 2501
SAGEConv 论文名称：Inductive Representation Learning on Large Graphs 论文链接：https://arxiv.org/pdf/1706.02216.pdf 现在存在方法具有内在transductive，不能generalize未见到的节点,。我们提出GraphSAGE是基于inductive开发的，对于未见到数据具备泛化能力。在训练的过程中，对邻居的节点采用抽样的方式，而不是对所有的节点进行训练。 GraphSAGE学习的主要方法是收集局部的邻居信息，
pytorch geometric（PYG） - NeighborSampler
qq_40671063的博客
09-11 4171
https://blog.csdn.net/weixin_39925939/article/details/121458145
PyG教程(3)：邻居采样
LW的技术小筑
06-10 6983
在GNN领域，大图是非常常见的，但由于GPU显存的限制，大图是无法放到GPU上进行训练的。为此，可以采用邻居采样，这样一来可以将GNN扩展到大图上。在PyG中，邻居采样的方式有很多种，具体详解`torch_geometric.loader`。本文以GraphSage中的邻居采样为例进行介绍，其在PyG中实现为`NeighborLoader`。...
pytorch geometric教程四 利用NeighorSampler实现节点维度的mini-batch + GraphSAGE样例
weixin_39925939的博客
11-23 8634
pytorch geometric如何实现节点维度mini-batch模型训练: NeighorSampler PyG的官方文档中有mini-batch和Advanced mini-batching两部分内容，但实现的都是图维度的mini-batch。如何像GraphSAGE文章中对邻居进行采样从而实现节点维度mini-batch模型训练，使得大规模全连接图的GNNs模型训练成为可能，在PyG中是通过torch_geometric.Loader.NeighborSampler实现的（早一点版本是torch_
图神经网络实战（19）——异构图神经网络
最新发布
盼小辉丶的博客
08-26 4487
异构图由不同类型的节点和边组成，可以表示实体之间的各种关系，这比单一类型的连接具有更高的表达能力。在本节中，我们将回顾关于同构图神经网络 (Graph Neural Networks, GNN) 与消息传递神经网络框架的相关概念，以扩展 GNN 架构适用于异构图。首先，我们将创建自定义异构数据集。然后，将同构架构转化为异构架构。
Python机器学习实战：实战图神经网络(GNN)在社交网络分析中的应用
AI天才研究院
06-17 1225
Python机器学习实战：实战图神经网络(GNN)在社交网络分析中的应用 1.背景介绍 在当今的数字时代，社交网络已经成为人们日常生活中不可或缺的一部分。无论是Facebook、Twitter还是LinkedIn，这些平台都在不断生成大量的用户交互数据。如
PyTorch+PyG实现图神经网络经典模型目录
热门推荐
CSDN 精品推荐
01-19 2万+
本专栏整理了《图神经网络代码实战》，内包含了不同图神经网络的相关代码实现（PyG以及自实现），理论与实践相结合，如GCN、GAT、GraphSAGE等经典图网络，每一个代码实例都附带有完整的代码。
深度探索：机器学习中的GraphSAGE算法（基于深度学习的图神经网络算法）原理及其应用
qq_51320133的博客
04-15 4198
GraphSAGE作为图神经网络领域的里程碑式工作，以其创新的采样与聚合机制成功解决了大规模图数据的嵌入学习问题。尽管存在超参数敏感、过平滑等问题，但通过持续的研究与优化，如引入注意力机制、动态采样策略等，其性能与适用性有望进一步提升。未来，GraphSAGE有望在更多领域展现潜力，特别是在图数据规模持续增长、复杂性不断提升的背景下，其对异质图、动态图、甚至超图的学习能力值得期待。同时，与自监督学习、元学习等前沿技术的结合，也将推动GraphSAGE在无监督设置下的表现，助力解决图数据的冷启动问题。
PYG实现GCN、GraphSAGE、GAT
qq_45895217的博客
10-08 414
【代码】PYG实现GCN、GraphSAGE、GAT。
PyG框架构建GCN、GAT、GraphSAGE模型
Andre_Jan的博客
03-11 3082
PyG框架构建GCN、GAT、GraphSAGE模型 ，获取数据集，构建模型进行训练
图神经网络系列-PyTorch Geometric+ GCNConv+SAGEConv+GATConv
段智华的博客
06-05 2593
图神经网络系列-PyTorch Geometric+ GCNConv+SAGEConv+GATConv Geometric+ GCNConv+SAGEConv+GATConv代码 from torch_geometric.datasets import Planetoid # ''' # 下载报错，将所有data文件下载到本地 # https://github.com/kimiyoung/planetoid # 将cora相关文件放入到raw文件中 # ''' dataset = Planetoid(r
图神经网络22-DGL实战：针对边分类任务的邻居采样训练方法
yanqianglifei的专栏
07-12 1923
边分类/回归的训练与节点分类/回归的训练类似，但还是有一些明显的区别。 定义邻居采样器和数据加载器 用户可以使用和节点分类一样的邻居采样器 。 sampler = dgl.dataloading.MultiLayerFullNeighborSampler(2) 想要用DGL提供的邻居采样器做边分类，需要将其与 :class:~dgl.dataloading.pytorch.EdgeDataLoad...
第二十一课.DeepGraphLibrary(二)
白景屹的博客
10-13 2516
目录构建GNN模块官方SAGEConv和HeteroGraphConv用法 构建GNN模块 官方SAGEConv和HeteroGraphConv用法 在自主构建GNN模块前，先了解两个官方实现的GNN模块用法，首先学习 SAGEConv 的用法，GraphSAGE 来自论文 " Inductive Representation Learning on Large Graphs"，消息传递过程为：hN(i)(l+1)=aggregate({hj(l),∀j∈N(i)})h_{N(i)}^{(l+1)}=agg
图神经网络16-DGL实战：构建图神经网络（GNN）模块
yanqianglifei的专栏
06-20 2099
1 DGL NN模块的构造函数 构造函数完成以下几个任务： 设置选项。 注册可学习的参数或者子模块。 初始化参数。 import torch.nn as nn from dgl.utils import expand_as_pair class SAGEConv(nn.Module): def __init__(self, in_feats, out_feats,
【Code】GraphSAGE 源码解析
阿泽的学习笔记
05-21 5291
1.GraphSAGE 本文代码源于 DGL 的 Example 的，感兴趣可以去 github 上面查看。 阅读代码的本意是加深对论文的理解，其次是看下大佬们实现算法的一些方式方法。当然，在阅读 GraphSAGE 代码时我也发现了之前忽视的 GraphSAGE 的细节问题和一些理解错误。比如说：之前忽视了 GraphSAGE 的四种聚合方式的具体实现，对 Alogrithm 2 的算法理解也有问题，再回头看那篇 GraphSAGE 的推文时，实在惨不忍睹= =。 进入正题，简单回顾一下 GraphSAG
图卷积神经网络
mez_Blog的博客
08-27 1263
由于深度学习方法在图像和文本上的成功应用，人们对深度学习方法在图像数据上的扩展越来越感兴趣。受到卷积网络、循环网络和深度自动编码器的思想影响，研究者定义和设计了用于处理图数据的神经网络结构，由此产生了一个新的研究热点-图神经网络。 图神经网络对图有很多应用，对于图上节点的应用，可以是对节点的半监督或监督的节点分类（回归）；对于图上的边，可以是对图上的边有监督分类；对这呢各个图的应用，可以使用无监督的方法学习到图的表示，进行图的分类等。 图像的卷积运算可以认为是基于欧式空间的运算，而在很多节点构成的图上进
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值