图神经网络实战(11)——Weisfeiler-Leman测试
0. 前言
在 GraphSAGE 架构中,使用模型的准确性换取了可扩展性,这在推荐系统等应用中非常有用。然而,这也引发了几个问题:是什么让图神经网络 (Graph Neural Networks, GNN) 变得 “准确”?这种准确性从何而来?我们能否利用这些知识设计出更好的 GNN
?
本节将通过介绍 Weisfeiler-Leman
(WL
) 测试来阐明是什么让 GNN
变得强大。该测试提供了一个框架,用于帮助我们理解 GNN
的一个基本概念——表达能力 (expressiveness
)。我们将用它来比较不同的 GNN
层,观察哪种 GNN
层最具表达能力。
1. 图神经网络的表达能力
通用近似定理 (universal approximation theorem
) 证明了神经网络用于逼近函数,即只有一层的前馈神经网络可以近似任何平滑函数。但是,图上的通用函数逼近是一个更为复杂的问题,需要具备区分图结构的能力。
对于图神经网络 (Graph Neural Networks, GNN),我们的目标是尽可能生成最佳的节点嵌入。