【深度学习·命运-15】graphSAGE

最新推荐文章于 2025-02-25 21:08:16 发布

华东算法王

最新推荐文章于 2025-02-25 21:08:16 发布

阅读量442

点赞数 4

分类专栏：深度学习·命运文章标签：深度学习

本文链接：https://blog.csdn.net/m0_69378371/article/details/144244274

版权

深度学习·命运专栏收录该内容

100 篇文章

订阅专栏

什么是GraphSAGE（Graph Sample and Aggregation）？

GraphSAGE（Graph Sample and Aggregation）是一种用于图结构数据的节点表示学习方法，它通过采样邻居节点并聚合它们的信息来构建节点的嵌入表示。与传统的图卷积网络（GCN）方法不同，GraphSAGE不需要全局的邻接矩阵，而是通过局部采样来减少计算复杂度，使得它能够处理大规模的图数据。

GraphSAGE的核心思想

GraphSAGE的关键思想是通过采样邻居节点和聚合邻居信息来生成每个节点的表示。在GraphSAGE中，每个节点的表示不仅依赖于它自己的特征，还依赖于其邻居节点的特征。GraphSAGE通过学习一个函数来聚合邻居节点的信息，并生成该节点的表示。

GraphSAGE使用了不同的聚合操作，可以根据任务的不同来选择不同的聚合策略。常见的聚合操作包括：Mean aggregation、LSTM aggregation、Pooling aggregation等。

GraphSAGE的基本公式

GraphSAGE的每一层都由两个主要步骤组成：邻居采样和信息聚合。

邻居采样：对于每个节点 vv，我们从它的邻居节点中随机采样 kk 个邻居，形成一个邻居集 N(v)\mathcal{N}(v)。
聚合操作：然后通过聚合邻居节点的特征来生成节点 vv 的新的表示。假设节点 vv 的特征表示为 hv(l)h_v^{(l)}，第 ll 层的输出可以表示为：

hv(l+1)=σ(W(l)⋅AGGREGATE(l)({hu(l):u∈N(v)∪{v}}))h_v^{(l+1)} = \sigma \left( W^{(l)} \cdot \text{AGGREGATE}^{(l)} \left( \{ h_u^{(l)} : u \in \mathcal{N}(v) \cup \{v\} \} \right) \right)

其中：

AGGREGATE(l)\text{AGGREGATE}^{(l)} 是聚合函数，作用是将邻居节点的信息聚合到当前节点上。
hv(l)h_v^{(l)} 是节点 vv 在第 ll 层的特征表示。
W(l)W^{(l)} 是第 ll 层的可学习权重矩阵。
σ\sigma 是激活函数，通常使用ReLU。

常见的聚合函数

GraphSAGE可以使用不同的聚合策略，以下是几种常见的聚合方法：

Mean Aggregation（平均聚合）：对所有邻居的特征进行平均。
AGGREGATE(l)({hu(l):u∈N(v)∪{v}})=mean({hu(l):u∈N(v)∪{v}})\text{AGGREGATE}^{(l)} \left( \{ h_u^{(l)} : u \in \mathcal{N}(v) \cup \{v\} \} \right) = \text{mean} \left( \{ h_u^{(l)} : u \in \mathcal{N}(v) \cup \{v\} \} \right)
LSTM Aggregation（LSTM聚合）：使用LSTM（长短期记忆网络）来处理邻居节点的特征序列，尤其适合处理序列数据。
Pooling Aggregation（池化聚合）：通过池化操作（如最大池化或平均池化）来聚合邻居节点的特征。

GraphSAGE的工作流程

输入特征：每个节点有一个初始特征向量，通常是一个向量表示节点的属性或特征。
邻居采样：对于每个节点，从它的邻居中采样一个固定数量的邻居，避免计算所有邻居的影响，从而加速计算。
信息聚合：将邻居节点的特征通过一个聚合函数（如平均、池化等）来更新当前节点的表示。
多层堆叠：通过堆叠多层GraphSAGE网络来进一步聚合来自远距离邻居的信息。

GraphSAGE的优势

可扩展性：通过邻居采样，GraphSAGE能够处理大规模图数据，避免了在每次迭代中对整个图进行计算的需求。这使得它能够在内存中处理非常大的图。
灵活性：GraphSAGE支持多种不同的聚合方法，能够根据不同的任务需求进行调整。
高效性：由于每个节点只聚合有限数量的邻居信息，GraphSAGE在大规模图中具有较高的计算效率。
无须全局邻接矩阵：GraphSAGE不像传统的GCN那样需要依赖全局的邻接矩阵，它可以通过局部采样和聚合来有效地生成节点表示。

GraphSAGE的应用场景

社交网络分析：例如，用户分类、朋友推荐等问题。
图结构数据分析：例如，分子图学习、化学分子属性预测。
推荐系统：通过学习用户与物品之间的图表示进行推荐。
交通流量预测：在交通网络中，通过邻居节点的信息预测交通流量。

GraphSAGE的代码示例（使用PyTorch和PyTorch Geometric）

下面是一个简单的GraphSAGE实现，使用了PyTorch和PyTorch Geometric。

import torch
import torch.nn as nn
import torch.optim as optim
from torch_geometric.nn import SAGEConv
from torch_geometric.datasets import Planetoid
from torch_geometric.data import DataLoader

# 加载Cora数据集
dataset = Planetoid(root='/tmp/Cora', name='Cora')
data = dataset[0]

# 定义GraphSAGE模型
class GraphSAGE(nn.Module):
    def __init__(self, in_channels, hidden_channels, out_channels):
        super(GraphSAGE, self).__init__()
        self.sage1 = SAGEConv(in_channels, hidden_channels)
        self.sage2 = SAGEConv(hidden_channels, out_channels)
    
    def forward(self, x, edge_index):
        # 第一层GraphSAGE + ReLU
        x = self.sage1(x, edge_index)
        x = torch.relu(x)
        # 第二层GraphSAGE
        x = self.sage2(x, edge_index)
        return x

# 初始化模型和优化器
model = GraphSAGE(in_channels=dataset.num_node_features, hidden_channels=16, out_channels=dataset.num_classes)
optimizer = optim.Adam(model.parameters(), lr=0.005, weight_decay=5e-4)

# 定义损失函数
criterion = nn.CrossEntropyLoss()

# 训练GraphSAGE模型
def train():
    model.train()
    optimizer.zero_grad()
    out = model(data.x, data.edge_index)  # 前向传播
    loss = criterion(out[data.train_mask], data.y[data.train_mask])  # 计算损失
    loss.backward()  # 反向传播
    optimizer.step()  # 更新参数
    return loss.item()

# 测试模型性能
def test():
    model.eval()
    out = model(data.x, data.edge_index)
    _, pred = out.max(dim=1)
    correct = pred[data.test_mask] == data.y[data.test_mask]
    accuracy = correct.sum().item() / data.test_mask.sum().item()
    return accuracy

# 训练过程
for epoch in range(200):
    loss = train()
    if epoch % 10 == 0:
        acc = test()
        print(f'Epoch {epoch}, Loss: {loss:.4f}, Test Accuracy: {acc:.4f}')

代码解析

数据集：使用PyTorch Geometric中的 Planetoid 数据集（Cora），适用于图节点分类任务。
GraphSAGE模型：定义了一个包含两层 SAGEConv 的神经网络。SAGEConv 是GraphSAGE中的核心模块，用于执行节点特征的聚合操作。
前向传播：在 forward 函数中，节点的特征通过两层GraphSAGE网络进行更新，每一层后都使用ReLU激活。
训练与测试：训练过程中，使用了 CrossEntropyLoss 作为损失函数，Adam优化器用于优化模型。在每个训练周期后，在测试集上计算模型的准确率。