GNN Advanced Techniques
文章平均质量分 98
先进的图神经网络
Authony.
这个作者很懒,什么都没留下…
展开
-
Temporal Graph Neural Network:EvolveGCN、MPNN-LSTM
本文介绍了一种具有时空信息的新型图。这个时间分量在许多应用中都很有用,主要与时间序列预测有关。我们描述了适合这种描述的两种类型的图:静态图,其中特征随着时间的推移而变化,以及动态图,其中特征和拓扑可以改变。此外,我们还介绍了时态GNN的两种应用。首先,我们实现了EvolveGCN架构,它使用GRU或LSTM网络来更新GCN参数。我们通过重新访问网络流量预测来应用它,并在有限的数据集上取得了出色的结果。其次,采用MPNN-LSTM结构进行疫情预测。我们对英格兰Covid数据集应用了一个带有时间信号的动态图,但原创 2023-09-16 15:34:21 · 429 阅读 · 2 评论 -
Explaining Graph Neural Networks
在本博文中,我们探讨了XAI应用于GNN的领域。可解释性在许多领域都是一个关键因素,可以帮助我们建立更好的模型。我们看到了提供局部解释的不同技术,并专注于GNNExplainer(基于微扰的方法)和Integrated Gradients(基于梯度的方法)。我们使用PyTorch Geometric在两个不同的数据集上实现了它们,以获得图和节点分类的解释。最后,我们对这些技术的结果进行了可视化和讨论。原创 2023-09-18 21:20:48 · 158 阅读 · 1 评论 -
Heterogeneous Groups(heterogeneous GNNs)
在本章中,我们通过三个步骤来推广GNN层——消息、聚合和更新。在本章的其余部分,我们扩展了这个框架来考虑由不同类型的节点和边组成的异构网络。这种特殊的图形允许我们表示实体之间的各种关系,这比单一类型的连接更有洞察力。此外,我们还看到了如何将同构GNN转换为异构GNN,这要归功于PyTorch Geometric。我们描述了异构GAT中的不同层,这些层将节点对作为输入来建模它们之间的关系。最后,我们使用HAN实现了一个异构特定架构,并比较了两种技术在DBLP数据集上的结果。这证明了开发这种网络中所代表的异构信原创 2023-09-12 16:42:53 · 227 阅读 · 1 评论 -
Variational Graph Autoencoder(VGAE)和Subgraphs, Embeddings, and Attributes for Link prediction(SEAL)
在本章中,我们探索了一个新的链接预测任务。我们通过介绍启发式和矩阵分解技术对这一领域进行了概述。启发式算法可以根据它们考虑的$k$跳邻居进行分类——从具有1跳邻居的局部算法到具有整个图的知识的全局算法。相反,矩阵分解使用节点嵌入近似邻接矩阵。我们还解释了该技术如何与前面描述的算法相关联章节(DeepWalk 和 Node2Vec)。原创 2023-09-09 20:26:28 · 236 阅读 · 1 评论 -
Graph Isomorphism Network(GIN)
在本章中,我们提出了WL检验方法,它可以输出图的规范形式。该算法并不完美,但可以区分大多数图结构。它启发了GIN体系结构,设计成与WL测试一样具有表现力,因此严格来说比GCNs、GATs或GraphSAGE更具表现力。然后我们实现了这个架构用于图分类。我们看到了将节点嵌入组合成图嵌入的不同方法。GIN提供了一种新的技术,它结合了求和算子和每一层生成的图嵌入的连接。它明显优于GCN层获得的经典全局平均池化。最后,我们比较了两种模型的预测结果,并提出了进一步提高模型预测结果的可能方法。原创 2023-09-07 16:43:49 · 582 阅读 · 1 评论 -
GraphSAGE
本文介绍了GraphSAGE框架及其两个组成部分——邻接节点采样算法和三个聚合算子。邻接节点采样是GraphSAGE在短时间内处理大型图的核心。它还负责归纳设置,这允许它将预测推广到看不见的节点和图。我们在PubMed上测试了一种转换情况,并在PPI数据集上测试了一种感应情况,以执行一种新的任务-多标签分类。虽然不如GCN或GAT准确,但GraphSAGE是处理大量数据的流行且高效的框架。原创 2023-09-06 20:58:36 · 970 阅读 · 0 评论