图神经网络GNN加速方法

ICLR2021

组合忽略图结构的浅层模型利用标签结构相关性的两个简单后处理步骤,来获得GNN性能的提升

提出了包含三个主要部分的简单管道,如图1所示

(1)使用节点特征(忽略图结构)做出基本预测(例如MLP或线性模型)

(2)校正步骤,其将训练数据中的不确定性传播到整个图上,以校正基本预测

(3)平滑图上的预测

左群集用橙色表示,右群集用蓝色表示。我们忽略图结构使用MLP进行基本预测,我们假设在此示例中的所有节点上都得到了相同的预测。然后,通过在训练数据中传播错误来校正基本预测。最后,用标签传播对校正的预测进行平滑。

通过对这些经典思想的修改和应用,我们可以在多个节点分类任务上获得最先进的性能,胜过了大型GNN模型。在我们的框架中,图结构不用于学习参数,而是用作后处理。这种简单性导致模型的参数减少了几个数量级,从而训练所需的时间也减少了几个数量级。我们还可以将我们的想法与最新的GNN相结合,并看到性能提升。

总体而言,结合几个简单的模型就可以在转导节点分类中获得出色的性能,而参数数量和训练时间都很少。我们发现将标签更直接地整合到学习算法中是关键。我们希望我们的方法能够激发出新的想法,这些想法可以帮助完成其他图学习任务,例如归纳节点分类,链路预测和图预测。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

多模态

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值