原创 Bin Lu 图科学实验室Graph Science Lab 2022-06-06 15:36 发表于台湾
随着图数据的巨大扩展,节点分类在许多实际应用中显示出其重要意义。现有的基于图神经网络的方法主要集中在对具有丰富标记的固定类中的未标记节点进行分类。然而,在许多实际场景中,图随着新节点和边的出现而演变。由于新出现或缺乏探索,新类别逐渐出现,并且很少有标记。在本文中,我们专注于这个具有挑战性但实用的图少样本类增量学习(GFSCIL)问题,并提出了一种新方法——GEOMETER。GEOMETER 不是替换和重新训练全连接的神经网络分类器,而是通过找到最近的类原型来预测节点的标签。原型是表示度量空间中的类的向量。随着新类的弹出,GEOMETER 通过观察几何接近度、均匀性和可分离性来学习和调整基于注意力的原型。进一步引入了教师-学生知识蒸馏和有偏抽样,以分别缓解灾难性遗忘和不平衡标签问题。四个公共数据集的实验结果表明,与最先进的方法相比,GEOMETER 实现了 9.46% 到 27.60% 的显著改进。
论文:
Geometer: Graph Few-Shot Class-Incremental Learning via Prototype Representation
下载:
https://arxiv.org/pdf/2205.13954.pdf
代码:
https://github.com/RobinLu1209/Geometer
亮点:
- 研究了一个新的节点分类问题:图少样本类增量学习(GMSCIL)。据我们所知,这是第一个研究这一具有挑战性的实际问题的工作。
- 提出了一种新的GEOMETER模型来解决 GSCIL 问题。随着新类的出现,GEOMETER 根据表示的接近性、均匀性和可分离性等几何关系来学习和调整基于注意力的原型。
- GEOMETER 提出了教师-学生知识蒸馏和有偏抽样策略,以进一步减轻 GSCIL 中的灾难性遗忘和不平衡标记。