论文翻译:图卷积入门-SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

我们提出了一种可扩展的在图结构数据上进行半监督学习的方法,它基于一种直接在图上操作的卷积神经网络的有效变体。我们通过频谱图卷积的局部一阶近似来激励卷积架构的选择。我们的模型以图形边的数量线性缩放,并学习编码局部图结构和节点特征的隐藏层表示。在引文网络和知识图数据集的大量实验中,我们证明了我们的方法。 我们考虑对图(如引文网络)中的节点(如文档)进行分类的问题,其中标签只对一小部分节点可用。这个问题可以被框定为基于图的半监督学习,通过某种形式的显式基于图的正则化来平滑图上的标签信息...
摘要由CSDN通过智能技术生成

       我们提出了一种可扩展的在图结构数据上进行半监督学习的方法,它基于一种直接在图上操作的卷积神经网络的有效变体。我们通过频谱图卷积的局部一阶近似来激励卷积架构的选择。我们的模型以图形边的数量线性缩放,并学习编码局部图结构和节点特征的隐藏层表示。在引文网络和知识图数据集的大量实验中,我们证明了我们的方法。

      我们考虑对图(如引文网络)中的节点(如文档)进行分类的问题,其中标签只对一小部分节点可用。这个问题可以被框定为基于图的半监督学习,通过某种形式的显式基于图的正则化来平滑图上的标签信息(Zhu et al., 2003;周等,2004;Belkin et al .,
2006;(Weston et al., 2012),例如在损失函数中使用图Laplacian正则化项:

其中,L0为有监督损失w.r.t。图中标记的部分,f(·)可以是类神经网络可微函数,虚拟现实是权重因子,X为节点特征向量Xi的矩阵。∆= D−A为无向图G = (V, E)的未归一化图LaplacianN个节点vi∈V,边(vi), vj)∈E,邻接矩阵A∈RN×N(二进制或加权),度矩阵Dii =P j Aij。Eq. 1的公式是基于图中连接节点可能共享同一标签的假设。然而,这种假设可能会限制ca的建模 。

     在本工作中,我们直接使用神经网络模型f(X, a)对图结构进行编码,并对所有带标签的节点进行监督目标L0的训练,从而避免了损失函数中基于图的显式正则化。对图的邻接矩阵f(·)进行条件设置将允许模型从监督损失L0中分配梯度信息,并使其能够学习带标签和不带标签的节点表示。

       我们的贡献是双重的。首先,我们为神经网络模型引入了一个简单的、表现良好的分层传播规则,该规则直接对图进行操作,并展示了如何从频谱图卷积的一阶近似中激发该规则(Hammond等人,2011)。其次,我们演示了这种基于图的神经网络模型如何用于快速和可扩展的图节点半监督分类。在大量数据集上的实验表明,我们的模型在分类精度和效率(以wal衡量)方面都有优势。

图形的快速近似卷积
        在本节中,我们将为一个特定的基于图形的神经网络模型f(X, a)提供理论动机,我们将在本文的其余部分使用该模型。我们考虑一个卷积的多层图具有以下分层传播规则的网络(GCN):

这里,˜= A +是无向图的邻接矩阵G self-connections补充道。是单位矩阵,D˜ii =P j˜ij和W (l)是一个分层的可训练的权重矩阵。(·)表示激活函数,如ReLU(·)= max(0,·)。H (l)∈RN×D为第l层激活矩阵;下面,我们证明了这种传播规则的形式可以通过对图上的局部光谱滤波器的一阶近似来激发(Hammond等人,2011;Defferrard等,2016)

谱图曲线玲珑
我们考虑定义为信号x∈R的乘法的图上的光谱卷积N(每个节点的标量)带有一个过滤器g的N在傅里叶域中,即:

其中U是归一化图拉普拉斯L = IN - D - 1的特征向量矩阵2广告−12 =UΛU>,对角矩阵的特征值Λ和U> x x的傅里叶变换图。我们可以理解gθL的特征值的函数,即gθ(Λ)。计算公式3是昂贵的计算,因为乘法特征向量矩阵U是O(N2))。此外,首先计算L的特征分解对于大型图来说可能代价高昂。绕过这个问题,建议在哈蒙德et al . (2011) gθ(Λ)可以被截断扩张的近似值,切比雪夫多项式Tk (x) k顺序:

新Λ=˜2λmaxΛ−。其中,max为L. L.的最大特征值0∈RK现在是切比雪夫系数的向量。契比雪夫多项式递归定义为Tk(x) =
2xTk−1(x)−Tk−2(x),其中T0(x) = 1, T1(x) = x。(2011)来深入讨论这个近似:

回到我们对信号x和滤波器g的卷积的定义0时,我们有:

与L˜=2λmaxL−IN;可以很容易地验证了注意到(UΛU>)k = UΛ骨>。注意,这个表达式现在

  • 2
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值