图几何交互学习：首次打破几何空间特征嵌入壁垒有何绝招？

点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

从图结构数据中学习是机器学习的一个重要任务，图神经网络（GNNs）对此表现出了空前的性能，基于欧氏空间可以很好地解决规则的结构，以及双曲空间可以有效化解层级或无标度结构所带来的挑战。然而现实世界并不总是非黑即白，存在很多融合了各种结构的复杂图。当黑白交织时，如何对图进行有效建模成为了一大难题。

图几何交互学习（GIL）首次打破几何空间特征嵌入的壁垒，将图神经网络拓展到欧氏空间和双曲空间进行交互学习，综合利用双曲和欧几里得拓扑特征的几何表示学习方法，针对不同的几何图派生出一种新颖的距离感知传播和交互学习方案。在AI Time NeurlPS 2020专场四直播间中，我们有幸邀请到了中国科学院大学博士朱时超，为大家分享这项研究工作！

朱时超：本科毕业于哈尔滨工业大学，现为中国科学院大学博士四年级在读学生，导师为王斌，指导老师为周川和潘世瑞，主要研究方向为图神经网络和异质图表示学习的理论研究及其应用。

一、 背景：图交互学习的研究动机

目前GNNs领域大部分工作都是基于欧氏几何空间进行建模的，这是因为向量空间的基本操作都可以欧式空间中使用，具有比较友好和直观的泛化性能。通过欧氏几何建模得到的embedding可以直接用于下游任务，其代表性的工作有GCN、GAT、SAGE等。

但是现实中大多图都表现出非欧氏几何，如层级或无标度结构。对于这类图，如果依然在欧氏空间进行建模的话，可能会造成失真效果。具体来说，就是指我们很难用较低维度的embedding完全覆盖图结构上的信息，造成维度爆炸或失真情况。对此，双曲空间提供了一个比较好的选择。双曲空间中节点和距离是随半径的增长呈指数扩张的，可以很好地建模具有相似增长结构的数据，因此通过较低维度的嵌入就可以覆盖整张图的数据结构，其中代表性的工作有HGCN、HGAT、HGNN等。