图神经网络(十):FASTGCN: FAST LEARNING WITH GRAPH CONVOLUTIONAL NETWORKS VIA IMPORTANCE SAMPLING

FastGCN是一种针对图卷积网络(GCN)的高效学习方法,通过将节点视为概率分布的独立同分布样本,将损失和卷积层表达为积分形式。使用蒙特卡罗近似进行采样,通过重要性采样降低近似方差,以适应大规模、稠密图的训练,提高模型的可扩展性和效率。
摘要由CSDN通过智能技术生成

一句话概括该论文:
这篇论文提出了fastGCN,它的主要思想是将图节点解释为某种概率分布下的独立同分布样本,并将损失和每个卷积层写为关于顶点嵌入函数的积分。然后,通过定义样本损失和样本梯度的蒙特卡洛近似对积分进行评估。

Introduction:
研究背景:

尽管17年的GCN获得了比较好的结果,但由于GCN在训练时需要知道图的所有数据,因此是Transductive的,而对于现实世界来说,图中的节点是不断变化的,因此一个Indutive的模型是急需的。并且GCN面临的一个更严峻的挑战是,在批量训练中,跨层递归扩展邻域的代价很大。特别是对于稠密图和幂律图,单顶点邻域的扩展很快占据了图的很大一部分,mini-batch训练即使在batch size很小的时候,也会涉及到和每个batch相关的大量数据。因此,为了使GCN适用于大型、密集的图,可扩展性是一个迫切需要解决的问题。

作者在研究什么:
作者在研究一种Inductive的模型且该模型可广泛应用于大图,同时极大的减少模型的复杂度。

作者的贡献是什么?
将图卷积看作是一种概率测度下embedding函数的积分变换,这种方式为inductive学习提供了一个理论支持。具体来说&

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码匀

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值