深入理解图（Graph）与图神经网络 （GNN）（其五）

“连续”模型作为图学习的新蓝图

一种新兴且有前景的替代当前“离散”图神经网络（GNN）的方法是“连续”学习模型，它受到物理系统的启发，并在图机器学习中开启了一系列尚未深入探索的工具，如微分几何、代数拓扑和微分方程。

将GNN重新构想成连续的物理过程。我们可以考虑在某个定义域上进行连续时间内的物理过程（该域也可以是连续的，例如流形，并将其离散化为图），而不是在图上进行多层消息传递。空间和时间上某个点的过程状态取代了GNN层产生的图节点的潜在特征。这个过程由一组参数控制（代表了底层物理系统的属性），这些参数取代了消息传递层中可学习的权重。

我们可以构建各种不同的受物理启发的过程，来自经典和量子系统。在一系列论文中，展示了许多现有的GNN可以与扩散过程相关联，扩散过程可能是传播信息最“自然”的方式，但其他更奇特的方式，如耦合振荡器系统也是可能的，并且可能具有某些优势。

图耦合振荡器系统的动力学

 

连续系统可以在时间和空间上都离散化。空间离散化以图的形式连接连续域中的相邻点，并且可以在时间和空间上变化。这种学习范式与传统的Weisfeiler-Lehman方案截然不同，后者严格受限于底层输入图的假设。更重要的是，它带来了一套新的工具，至少在原则上可以解决目前现有图论技术无法解决的重要问题。

将学习视为最优控制问题。在给定时间点上，所有可能状态的空间可以看作是可以表示的“假设类 hypothesis class”函数。以这种方式进行学