[ 文献阅读·图卷积网络 ] SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS [1]
推荐理由:用巧妙的方法推出层与层之间的传播规则,很好地实现了半监督节点分类。
1.摘要&简介
- 本文的“半监督”,首先体现在损失函数上,加入监督损失的损失函数长这样:
L = L 0 + λ L r e g \mathcal{L}=\mathcal{L}_{0}+\lambda \mathcal{L}_{\mathrm{reg}} L=L0+λLreg
其中, L 0 \mathcal{L}_{0} L0为监督损失项,而 L reg \mathcal{L}_{\text {reg }} Lreg 的其具体表达式为:
L reg = ∑ i , j A i j ∥ f ( X i ) − f ( X j ) ∥ 2 = f ( X ) ⊤ Δ f ( X ) \mathcal{L}_{\text {reg }}=\sum_{i, j} A_{i j}\left\|f\left(X_{i}\right)-f\left(X_{j}\right)\right\|^{2}=f(X)^{\top} \Delta f(X) Lreg =i,j∑Aij∥f(Xi)−f(Xj)∥2=f(X)⊤Δf(X) - 本文的工作有两部分组成:
- 提出一种简单且性能良好的直接作用于图的神经网络模型的逐层传播规则,并展示了如何从谱图卷积的一阶近似中激发它。
- 这种基于图的神经网络模型用于图中节点的快速和可伸缩的半监督分类。
2. 图的快速近似卷积
- 首先来看一下本文的层与层的传播规则:
H ( l + 1 ) = σ ( D ~ − 1 2 A ~ D ~ − 1 2 H ( l ) W ( l ) ) (2) H^{(l+1)}=\sigma\left(\tilde{D}^{-\frac{1}{2}} \tilde{A} \tilde{D}^{-\frac{1}{2}} H^{(l)} W^{(l)}\right)\tag{2} H(l+1)=σ(D~−21A~D~−21H(l)W(l))(2)
其中 A ~ = A + I N \tilde{A}=A+I_{N} A~=A+