关于我跑图神经网络

最新推荐文章于 2024-04-17 16:36:19 发布
最新推荐文章于 2024-04-17 16:36:19 发布
阅读量248 收藏
点赞数
文章标签： 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45935889/article/details/133799797
版权

一、 环境配置

cuda11.3

torch                          1.12.1+cu113
torch-cluster                  1.6.0+pt112cu113
torch-geometric                2.4.0
torch-scatter                  2.0.9
torch-sparse                   0.6.15+pt112cu113
torch-spline-conv              1.2.1+pt112cu113 

tqdm                           4.62.3

ogb                            1.3.6

二、loader类型

2.1 GraphSAINTRandomWalkSampler

GraphSAINTRandomWalkSampler是一种用于图数据的采样器，用于生成随机游走序列。它是基于GraphSAINT算法的一部分，用于有效地训练大规模图神经网络。

GraphSAINTRandomWalkSampler的工作原理如下：

  1. 首先，它从图中的每个节点开始，进行多次随机游走。随机游走是指从当前节点出发，按照一定的策略选择下一个节点，直到达到预定的步数或达到终止条件。
  2. 在每次随机游走中，采样器会根据指定的邻居采样策略，选择当前节点的邻居节点作为下一个节点。这样可以有效地探索图中的不同路径和邻居节点。
  3. 采样器会记录每次随机游走的路径，形成一个随机游走序列。这些序列可以用于训练图神经网络，以捕捉节点之间的关系和图的结构。

GraphSAINTRandomWalkSampler的优点包括：

  • 高效的采样策略：采样器使用了一种基于邻居节点的采样策略，可以有效地探索图中的不同路径和邻居节点。
  • 可扩展性：采样器可以处理大规模图数据，并且可以在分布式环境中进行并行化处理。
  • 适用于图神经网络训练：采样器生成的随机游走序列可以用于训练图神经网络，以学习节点之间的关系和图的结构。

总之，GraphSAINTRandomWalkSampler是一种用于图数据的高效采样器，可以生成随机游走序列，用于训练图神经网络。它在大规模图数据和分布式环境中具有良好的可扩展性和适用性。

2.2 NeighborSampler

NeighborSampler是一种用于图数据的邻居采样器，用于生成邻居子图。它是基于图神经网络中的采样方法，用于有效地训练大规模图数据。

NeighborSampler的工作原理如下：

  1. 首先，它从图中的每个节点开始，选择一定数量的邻居节点作为邻居子图的中心节点。
  2. 对于每个中心节点，采样器会根据指定的邻居采样策略，选择其邻居节点作为邻居子图的节点。
  3. 采样器会根据邻居节点之间的边关系，构建邻居子图的边。
  4. 采样器会记录邻居子图的节点和边信息，形成一个邻居子图。
  5. 邻居子图可以用于训练图神经网络，以学习节点之间的关系和图的结构。

NeighborSampler的优点包括：

  • 灵活的采样策略：采样器可以根据需求选择不同的邻居采样策略，如随机采样、按度数采样等，以满足不同的训练需求。
  • 可扩展性：采样器可以处理大规模图数据，并且可以在分布式环境中进行并行化处理。
  • 适用于图神经网络训练：采样器生成的邻居子图可以用于训练图神经网络，以学习节点之间的关系和图的结构。

总之，NeighborSampler是一种用于图数据的灵活邻居采样器，可以生成邻居子图，用于训练图神经网络。它在大规模图数据和分布式环境中具有良好的可扩展性和适用

三、获取数据集
3.1 网络获取


dataset = PygNodePropPredDataset(name='ogbn-arxiv', transform=T.ToUndirected())

是这句代码下载了名为'ogbn-arxiv'的数据集。根据代码中使用的PyTorch Geometric库的命名约定，`PygNodePropPredDataset`是用于节点属性预测任务的数据集类。通过指定`name='ogbn-arxiv'`，它将下载并加载名为'ogbn-arxiv'的数据集。

该数据集的名称`ogbn-arxiv`指的是Open Graph Benchmark (OGB) 中的论文引用网络数据集。这个数据集用于进行节点属性预测任务，即根据节点的特征和邻接关系预测节点的属性或类别。

所以，这句代码确实是用于下载数据集，并将其存储在`dataset`变量中供后续使用。

3.2 已经下载到本地的数据集

经过下载后本地会有一个dataset文件夹

如果你已经将数据集下载到本地并希望从本地加载数据集，可以使用PygNodePropPredDataset的root参数来指定数据集的本地路径。以下是修改后的代码示例：

dataset = PygNodePropPredDataset(root='/path/to/dataset', name='ogbn-arxiv', transform=T.ToUndirected())

在这里，需要将/path/to/dataset替换为实际数据集所在的本地路径。通过指定root参数，PyTorch Geometric将从指定的本地路径加载数据集而不是从互联网下载。确保将/path/to/dataset替换为实际的本地路径，以便正确加载数据集。

以下训练ogb数据集节点分类任务

该实验结果是一个注意力头的GAT模型在该数据集上的结果，准确率：76.76

GATv2,一个注意力头，ogbn-arxiv数据集，准确率：77.38

努力学习的陈同学
关注
随机游走算法(Random Walk)
u013250861的博客
10-30 2718
参考资料： 介绍一个全局最优化的方法：随机游走算法(Random Walk)
GNN图神经网络项目实战案例(PyG实现)
CSDN 精品推荐
02-09 1061
本专栏内包含基于GNN的项目实战案例（PyG实现），以及研究多年遇到的问题和一些总结与注意事项，理论与实践相结合，每一个代码实例都附带有完整的代码。
【GNN】采样算法总结
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
08-15 2682
背景： 许多领域的数据都可以自然地表达成图结构，比如社交网络、蛋白质相互作用网、化学分子图和3D点云等。这些图数据的复杂性对现有的机器学习算法提出了重大挑战。近几年图卷积网络（GCN）把深度学习中卷积神经网络的思想用到图的学习上，在点分类、边预测以及推荐系统上都取得了非常好的效果。 在GCN中，为了得到根节点的表达，需要从它上一层的邻居节点里收集信息。然后同样的，这些邻居节点也需要再从他们上一层的邻居节点里收集信息。这样随着层数的加深，需要计算的多跳邻居数量就会指数级上升。这种“邻居数量指数增加”的问题
PyG教程(3)：邻居采样
LW的技术小筑
06-10 6117
在GNN领域，大图是非常常见的，但由于GPU显存的限制，大图是无法放到GPU上进行训练的。为此，可以采用邻居采样，这样一来可以将GNN扩展到大图上。在PyG中，邻居采样的方式有很多种，具体详解`torch_geometric.loader`。本文以GraphSage中的邻居采样为例进行介绍，其在PyG中实现为`NeighborLoader`。...
在工业界落地的PinSAGE图卷积算法原理及源码学习（二）采样
IntegerList的博客
04-14 635
这一部分是PinSAGE算法最重要的一块，主要包括正负样本采样，PinSAGE采样
【图神经网络】GraphSAGE 无监督训练源码剖析
竹石破岩
07-11 6058
概述 本教程主要介绍pytorch_geometric库examples下的graph_sage_unsup.py的源码剖析，主要的关键技术点，包括： 如何实现随机采样的？ SAGEConv是如何训练的？ 关键问题1，随机采样和采样方向的问题（有向图） 首先要理解的是，采样的过程和特征聚合的过程是相反的，采样的过程，比如，如下图所示，先采样A节点的一阶邻域节点，再根据一阶采样得到的节点进行二阶采样，是一个从左到右的采样过程，而在特征聚合消息传递的时候是先从二阶节点开始聚合，逐步收敛到目标节点
pytorch geometric教程四 利用NeighorSampler实现节点维度的mini-batch + GraphSAGE样例
weixin_39925939的博客
11-23 7967
pytorch geometric如何实现节点维度mini-batch模型训练: NeighorSampler PyG的官方文档中有mini-batch和Advanced mini-batching两部分内容，但实现的都是图维度的mini-batch。如何像GraphSAGE文章中对邻居进行采样从而实现节点维度mini-batch模型训练，使得大规模全连接图的GNNs模型训练成为可能，在PyG中是通过torch_geometric.Loader.NeighborSampler实现的（早一点版本是torch_
图像神经网络模型有哪些,图像神经网络模型制作
aifamao3的博客
08-26 760
目前经常使用的深度神经网络模型主要有卷积神经网络(CNN)、递归神经网络(RNN)、深信度网络(DBN)、深度自动编码器(AutoEncoder)和生成对抗网络(GAN)等。递归神经网络实际.上包含了两种神经网络。一种是循环神经网络(RecurrentNeuralNetwork);另一种是结构递归神经网络(RecursiveNeuralNetwork)，它使用相似的网络结构递归形成更加复杂的深度网络。RNN它们都可以处理有序列的问题，比如时间序列等且RNN有“记忆”能力，可以“模拟”数据间的依赖关系。卷积网
跑神经网络的笔记本推荐,笔记本能跑神经网络么
m0_54846070的博客
08-25 1690
由于GPU内部结构的限制，使得它比较适合进行高速的并行运算，而并不适合进行快速的指令控制，而且许多的数据需要在GPU和CPU之间进行存取，这就需要用到CPU，因为这是它的强项。常用的方案是“选择一个较大的内存，每次从硬盘中读取几个batch的数据存放在内存中，然后进行数据处理”，这样可以保证数据不间断的传输，从而高效的完成数据处理的任务。有论文研究，太高的精度对于深度学习的错误率是没有提升的，而且大部分的环境框架都只支持单精度，所以双精度浮点计算是不必要，Tesla系列都去掉了。
GNN学习—卷积图神经网络（空域）
bujiatang的博客
11-09 5058
第2篇—卷积图神经网络CNN简介ConvGNNsSpectral-based ConvGNN三级目录Spatial-based ConvGNNDCNNPATCHY-SANGraphSAGEGAT 本篇介绍ConvGNNs（卷积图神经网络 ），从卷积神经网络（CNN）说起，再引出卷积图神经网络。 CNN简介 CNN全称为convolutional Neural Networks，译为卷积神经网络。 产生原因 在 CNN 出现之前，图像对于人工智能来说是一个难题，有2个原因： 1、图像需要处理的数据量太大，
torch_cluster-1.6.0+pt112cu113-cp39-cp39-linux_x86_64.whl.zip
12-14
需要配和指定版本torch-1.12.0+cu113使用，请在安装该模块前提前安装官方命令安装torch-1.12.0+cu113对应cuda11.3和cudnn，注意电脑需要有nvidia显卡才行，支持GTX920以后显卡，比如RTX20 RTX30 RTX40系列显卡
torch_cluster-1.6.0+pt112cu113-cp310-cp310-win_amd64.whl.zip
12-16
需要配和指定版本torch-1.12.1+cu113使用，请在安装该模块前提前安装官方命令安装torch-1.12.1+cu113对应cuda11.3和cudnn，注意电脑需要有nvidia显卡才行，支持GTX920以后显卡，比如RTX20 RTX30 RTX40系列显卡
图卷积神经网络代码讲解,卷积神经网络python实例
super339的博客
08-28 1887
用keras框架较为方便首先安装anaconda，然后通过pip安装keras以下转自wphh的博客。#coding:utf-8''' GPU run command: THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32 python CPU run command: python 2016.06.06更新：这份代码是keras开发初期写的，当时keras还没有现在这么流行，文档也还没那么丰富，所以我当时写了一些
使用本地whl离线安装torch_geometric库（PyG）
最新发布
m0_46492054的博客
04-17 872
需要注意的是，我需要把文件安装在已经有的torch环境中，就需要从anaconda进入文件路径进行安装。需要下载的文件有4个，分别是1.torch-scatter 2.torch-sparse 3.torch-cluster 4.torch-spline-conv。本文采用的是离线安装。我的torch版本是1.12.0+cu113，看自己的版本是哪一个就下载哪一个，也有CPU版本。5.最后打开JupyterNotebook导入需要的包，没有前面的报错，安装完毕。2.在官网找到对应的版本，进行下载。
【经典论文阅读8】Deepwalk算法—基于随机游走的节点表示学习
说文科技，做有态度的研究。
04-14 6690
word2vec使用语言天生具备序列这一特性训练得到词语的向量表示。而在图结构上，则存在无法序列的难题，因为图结构它不具备序列特性，就无法得到图节点的表示。deepwalk 的作者提出：可以使用在图上随机游走的方式得到一串序列，然后再根据得到游走序列进行node2vec的训练，进而获取得到图节点的表示。本质上deepwalk和word2vec思想相同，deepwalk算法的提出为图结构学习打开了新的天地。
图采样、随机游走、subgraph的实现
诸神缄默不语的博客
07-19 1717
图采样、随机游走、subgraph的实现
pyg例子link_pred
m0_46107891的博客
10-09 1711
是一个两层的GCNConv# model的使用：classGAE(encoder,)encoder(Moduledecoder(Module,optionalNoneNone)
python 绘制随机漫步图（创建RandomWalk类）
komorebi123_的博客
04-03 2003
random_walk.py from random import choice class RandomWalk: # 初始化 def __init__(self, num_points = 5000): self.num_points = num_points # 随机漫步的开始点为(0,0) self.x_values = [0] self.y_values = [0] def fill_walk(self
力扣解题思路：图 纠错记录
qq_39879315的博客
07-25 466
785. 判断二分图 思路：给定一个无向图graph，当这个图为二分图时返回true。如果我们能将一个图的节点集合分割成两个独立的子集A和B，并使图中的每一条边的两个节点一个来自A集合，一个来自B集合，我们就将这个图称为二分图。graph将会以邻接表方式给出，graph[i]表示图中与节点i相连的所有节点。每个节点都是一个在0到graph.length-1之间的整数。这图中没有自环和平行边： graph[i] 中不存在i，并且graph[i]中没有重复的值。 举个例子： Input: [[1,3], [0,
给我关于图神经网络做检测的python代码
09-18
### 回答1： 图神经网络(Graph Neural Network, GNN) 用于图数据的分析和处理，可以用于图中节点或边的分类、图分析、图生成等多项任务。 以下是一份基于 PyTorch 的图神经网络代码，你可以使用这份代码实现图检测。 ``` import torch import torch.nn as nn import torch.nn.functional as F class GraphConvolution(nn.Module): def __init__(self, in_features, out_features): super(GraphConvolution, self).__init__() self.fc = nn.Linear(in_features, out_features) def forward(self, x, adj): x = torch.mm(adj, x) x = self.fc(x) return x class GCN(nn.Module): def __init__(self, in_features, hidden_features, out_features): super(GCN, self).__init__() self.gc1 = GraphConvolution(in_features, hidden_features) self.gc2 = GraphConvolution(hidden_features, out_features) def forward(self, x, adj): x = F.relu(self.gc1(x, adj)) x = self.gc2(x, adj) return x ``` 使用方法: 1. 定义图的邻接矩阵 `adj` 2. 定义图上节点的特征矩阵 `x` 3. 实例化 GCN 模型 4. 调用 `forward` 函数，得到检测结果 代码仅供参考，实际应用中你可能需要根据你的任务进行修改。 ### 回答2： 图神经网络（Graph Neural Network，GNN）是一种针对图数据的深度学习模型。在进行图像检测的任务中，我们可以使用图神经网络来提取图像中的特征，并进行相应的分类或回归。 以下是一个简单的使用Python实现的图神经网络检测的代码示例： ``` import torch import torch.nn as nn import torch.nn.functional as F from torch_geometric.nn import GCNConv from torch_geometric.utils import to_undirected class GraphConvNet(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim): super(GraphConvNet, self).__init__() self.conv1 = GCNConv(input_dim, hidden_dim) self.conv2 = GCNConv(hidden_dim, output_dim) def forward(self, x, edge_index): edge_index = to_undirected(edge_index) x = self.conv1(x, edge_index) x = F.relu(x) x = self.conv2(x, edge_index) return x # 构建图神经网络模型 input_dim = 128 hidden_dim = 64 output_dim = 10 model = GraphConvNet(input_dim, hidden_dim, output_dim) # 定义图数据和标签 x = torch.randn(100, input_dim) edge_index = torch.tensor([[0, 1, 1, 2, 2, 3], [1, 0, 2, 1, 3, 2]], dtype=torch.long) y = torch.tensor([0, 1, 0, 1], dtype=torch.long) # 进行模型训练 optimizer = torch.optim.Adam(model.parameters(), lr=0.01) criterion = nn.CrossEntropyLoss() def train(): optimizer.zero_grad() output = model(x, edge_index) loss = criterion(output, y) loss.backward() optimizer.step() # 进行多轮训练 for epoch in range(10): train() # 使用训练好的模型进行预测 output = model(x, edge_index) predicted_labels = torch.argmax(output, dim=1) print(predicted_labels) ``` 以上代码中，我们使用了PyTorch库中的torch和torch_geometric模块。首先，我们定义了一个GraphConvNet类作为图神经网络模型。在forward函数中，我们使用了GCNConv进行图卷积操作，并通过ReLU激活函数进行非线性映射。 接着，我们通过定义输入数据x和边索引edge_index，以及相应的标签y，来构建训练数据。然后，我们定义了一个训练函数train，并通过多轮训练来训练模型。 最后，我们使用训练好的模型进行预测，并输出预测结果。 需要注意的是，以上代码只是一个简单的示例，实际应用中可能需要根据具体问题进行相应的调整和改进。这里的输入数据x和边索引edge_index需要根据实际情况进行构建，并且模型的参数设置也需要根据具体问题进行调整。 ### 回答3： 以下是一个使用Python编写的图神经网络（Graph Convolutional Network, GCN）进行节点分类的示例代码： ```python import torch import torch.nn as nn import torch.nn.functional as F class GraphConvolutionLayer(nn.Module): def __init__(self, in_features, out_features): super(GraphConvolutionLayer, self).__init__() self.linear = nn.Linear(in_features, out_features) def forward(self, x, adjacency_matrix): x = torch.matmul(adjacency_matrix, x) x = self.linear(x) return x class GCN(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim): super(GCN, self).__init__() self.gc1 = GraphConvolutionLayer(input_dim, hidden_dim) self.gc2 = GraphConvolutionLayer(hidden_dim, output_dim) def forward(self, x, adjacency_matrix): x = F.relu(self.gc1(x, adjacency_matrix)) x = self.gc2(x, adjacency_matrix) return x # 创建一个简单的图数据 adjacency_matrix = torch.tensor([[0, 1, 0, 0], [1, 0, 1, 0], [0, 1, 0, 1], [0, 0, 1, 0]], dtype=torch.float32) features = torch.tensor([[0.1, 0.2], [0.3, 0.4], [0.5, 0.6], [0.7, 0.8]], dtype=torch.float32) labels = torch.tensor([0, 1, 1, 0], dtype=torch.long) # 创建GCN模型，并定义损失函数和优化器 input_dim = features.shape[1] hidden_dim = 16 output_dim = 2 model = GCN(input_dim, hidden_dim, output_dim) loss_fn = nn.CrossEntropyLoss() optimizer = torch.optim.Adam(model.parameters(), lr=0.01) # 训练模型 epochs = 100 for epoch in range(epochs): optimizer.zero_grad() output = model(features, adjacency_matrix) loss = loss_fn(output, labels) loss.backward() optimizer.step() # 对新节点进行分类预测 new_feature = torch.tensor([[0.9, 1.0]], dtype=torch.float32) predicted_label = torch.argmax(model(new_feature, adjacency_matrix)) print("预测标签为:", predicted_label.item()) ``` 请注意，这只是一个简单的示例代码，用于说明图神经网络（GCN）的基本原理和使用方法。在实际应用中，您可能需要更复杂的网络结构和更大规模的数据集来获得更好的性能。另外，这个代码需要PyTorch框架来运行，所以请确保已经安装了PyTorch环境。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值