该研究关注于图卷积网络（GCN）中切比雪夫多项式的优化，提出了使用K=1的卷积层来减少参数量，提升GPU并行效率。通过对Laplacian矩阵的近似，解决了过拟合风险和并行计算的难题。实验表明，这种方法在保持甚至提高精度的同时，显著提高了计算速度。
Semi-supervised Classfication With Graph Convolutional Networks
Summary
对切比雪夫近似GNN算法改进,降低参数量,提出一种更适用于GPU并行架构的网络
Research Objective
进一步改进GNN频域卷积算法,使其在不损失精度的同时提升速度.成为了大多应用中GNN频域卷积的baseline
Problem Statement
对于切比雪夫近似的GNN算法,当提升K值时,训练参数也会提升(例如对K=2的频域卷积,卷积层的滤波器数量为2×C×F)而更多的参数意味着过拟合的风险也会提升.另外,切比雪夫多项式需要通过迭代的方式得到,难以利用到GPU的并行架构.
Method(s)
切比雪夫近似的GNN可表达为 g θ ′ ⋆ x ≈ ∑ k = 0 K θ k ′ T k ( L ~ ) x g_{\theta^{\prime}} \star x \approx \sum_{k=0}^{K} \theta_{k}^{\prime} T_{k}(\tilde{L}) x gθ′⋆x≈k=0∑Kθk′Tk(L~)x
- 首先令K=1,通过堆叠多个K=1的卷积层,可以得到拥有多尺度感受野的网络
- 进一步近似,令 L ~ = 2 λ max L − I N \tilde{L}=\frac{2}{\lambda_{\max }} L-I_{N} L~=λmax2L−IN中的 λ m a x = 2 \lambda_{\mathrm{max}} = 2 λmax
最低0.47元/天 解锁文章
扫一扫
2829
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
