dgl库中一些模型的使用

SumPooling

import dgl
import torch
from dgl.nn.pytorch.glob import SumPooling

# 创建一个示例图
g = dgl.graph(([0, 1, 2], [1, 2, 0]))

# 假设每个节点有一个特征向量
node_features = torch.randn(3, 10)  # 3个节点，每个节点有10维特征
g.ndata['h'] = node_features
# 使用SumPooling进行全局池化
sum_pooling = SumPooling()
global_feature = sum_pooling(g, g.ndata['h'])
print(g.ndata['h'])
print("Global pooled feature shape:", global_feature.shape)#(1,10)
print(global_feature)

作用就是将图中的多个点的特征进行累加

Set2Set

import dgl
import torch
from dgl.nn.pytorch.glob import Set2Set

# 创建一个示例图
g = dgl.graph(([0, 1, 2], [1, 2, 0]))

# 假设每个节点有一个特征向量
node_features = torch.randn(3, 64)  # 3个节点，每个节点有10维特征

g.ndata['h'] = node_features

# 使用Set2Set进行全局池化
set2set_pooling = Set2Set(64,3,2)  # （点的特征维度，迭代次数,迭代层数）
global_feature = set2set_pooling(g, g.ndata['h'])

print("Global pooled feature shape:", global_feature.shape)# (1,128)
"""
最终将点汇聚为一个全局特征，维度变为了之前的二倍。
"""

Set2Set 是一种用于图神经网络（GNN）中处理节点嵌入的强大算法。它被设计用来解决传统GNN结构中存在的排列不变性的挑战。

排列不变性：传统的GNN（如图卷积网络GCN）会按照固定顺序处理节点，因此对节点输入的顺序敏感。Set2Set 则是基于节点集合操作，并且设计成排列不变的，即无论节点输入的顺序如何，它都能产生相同的输出。

聚合机制：Set2Set 使用可学习的聚合机制，灵感来自于长短期记忆网络（LSTM）。它通过多次注意节点嵌入来迭代地优化集合级别的表示。这使得它能够捕捉图中节点之间的依赖关系和交互作用。

应用场景：它通常用于那些节点顺序无意义或不应影响最终图级表示的任务中。例如，图分类任务需要根据图的结构而不是单个节点的属性来进行分类。

优势：通过引入Set2Set，GNN能够更有效地将节点特征聚合成图级别的表示。它有助于学习更具表达力的表示，有效地总结图中所有节点的信息。

GlobalAttentionPooling

import dgl
import torch as th
from dgl.nn import GlobalAttentionPooling
g1 = dgl.rand_graph(3, 4)  # g1 is a random graph with 3 nodes and 4 edges
g1_node_feats = th.rand(3, 5)  # feature size is 5
gate_nn = th.nn.Linear(5, 1)  # the gate layer that maps node feature to scalar
gap = GlobalAttentionPooling(gate_nn)  # create a Global Attention Pooling layer
temp=gap(g1, g1_node_feats)
print(temp)#(1,5)

GlobalAttentionPooling 的实现：
dgl.nn.pytorch.glob.GlobalAttentionPooling实现了这一思想，它结合了以下几个关键步骤：
初始化权重： 在初始化时，通过一个可学习的参数矩阵来计算每个节点的注意力权重。
计算注意力分数： 对于每个节点，通过乘以权重矩阵，得到其在注意力机制下的表示。这一步骤考虑了每个节点与其他节点之间的关系。
应用注意力机制： 将计算得到的注意力分数经过 softmax 函数归一化，以确保注意力权重的有效性和合理性。
特征聚合： 使用归一化后的注意力权重对节点的特征进行加权求和，从而生成整个图的表示。
输出表示： 最终，得到的图级别表示可以作为后续任务（如图分类）的输入。

SetTransformerEncoder

import dgl
import torch as th
from dgl.nn import SetTransformerEncoder

g1 = dgl.rand_graph(3, 4)  # g1 is a random graph with 3 nodes and 4 edges
g1_node_feats = th.rand(3, 5)  # feature size is 5

set_trans_enc = SetTransformerEncoder(5, 4, 4, 20)  #(输入维度 (input_dim),编码器层数 (num_layers),注意力头数 (num_heads),隐藏层维度 (hidden_dim):)
temp=set_trans_enc (g1,g1_node_feats)
print(temp)#(3,5)

SetTransformerEncoder 可能是一个用于集合（Set）数据的变换器编码器，它可能具有以下特点：
自注意力机制：允许模型在处理图节点时，考虑节点之间的关系，而不仅仅是局部邻域信息。
多头注意力：通过多个注意力头并行处理信息，以捕获不同子空间的信息。
位置编码：尽管自注意力机制不关心序列中元素的顺序，但在图数据中，节点的相对位置或特征仍然重要，因此可能需要位置编码。
前馈网络：在自注意力层之后，通常会有一个前馈网络来进一步处理信息。

SortPooling

import dgl
import torch as th
from dgl.nn import SortPooling

g1 = dgl.rand_graph(3, 4)  # g1 is a random graph with 3 nodes and 4 edges
g1_node_feats = th.rand(3, 5)  # feature size is 5
print(g1_node_feats)
sortpool = SortPooling(k=2)  # create a sort pooling layer

temp=sortpool(g1,g1_node_feats)
print(temp)#(1,5*k)即(1,10)

SortPooling 层是全局池化的一种形式，它将图中的节点根据某种排序标准进行排序，然后选择前 k 个节点的邻居信息进行聚合。这种池化操作有助于捕获图中的全局结构信息，并且可以减少图的规模，从而减少计算量。

下面是 SortPooling 层的一些关键点：

排序标准：SortPooling 层可以根据节点的特征值进行排序。例如，可以基于节点的度（即邻居数量）、节点的嵌入向量的大小或其他自定义的标准。

选择节点：层会根据排序结果选择前 k 个节点。这些节点通常被认为是图中最重要的节点，可能是图中的中心节点或者是具有较高度的节点。

聚合操作：对于选定的节点，SortPooling 层会聚合它们的邻居信息。聚合可以是求和、平均、最大值等。

输出：SortPooling 层的输出是一个固定大小的向量，这个向量包含了聚合后的全局信息。

应用场景：这种池化操作在处理图数据时非常有用，尤其是在需要捕获全局结构信息的场景中，比如社交网络分析、分子结构分析等。

参数 k：k 是一个超参数，表示在排序后选择的节点数量。这个值可以根据具体任务和图的大小来调整。