[论文笔记] [2016] [NIPS] Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering

这篇论文是2016 NIPS上的一篇论文。从标题就可以看出这篇论文的特点所在:Fast Localized Spectral Filtering。这篇论文的主要贡献在于:

  1. 改进了Spectral Networks,设计了 localized filter on graph,并且计算复杂度较低;
  2. 提出了一种较为有效的 pooling 策略。

Learning Fast Localized Spectral Filters

作者总结了将卷积推广到图上的三步骤:

  1. the design of localized convolutional filters on graphs;
  2. a graph coarsening (见《深入浅出图神经网络中》翻译成“图塌缩”)procedure that groups together similar vertices;
  3. a graph pooling operation that trades spatial resolution for higher filter resolution.

之前的 spectral networks,并不具备局部连接的特性,并且在图卷积层运算时,傅里叶变换的矩阵乘法的时间复杂度较高。

Polynomial parametrization for localized filters

针对这两个问题,作者借助泰勒展开去近似任意函数,从而将卷积核展开为:
g θ ( Λ ) = ∑ k = 0 K − 1 θ k Λ k g_\theta(\Lambda) = \sum_{k=0}^{K-1}{\theta_k \Lambda^k} gθ(Λ)=k=0K1θkΛk
其中 θ ∈ R K \theta \in \mathbb{R}^K θRK为可训练的多项式系数。如果将上式代入到 y = U g θ ( Λ ) U T x y=Ug_\theta(\Lambda)U^Tx y=Ugθ(Λ)UTx 可得到
y = ∑ k = 0 K θ k L k x y=\sum_{k=0}^{K}{\theta_kL^kx} y=k=0KθkLkx
设定 x ( k ) = L k x = L x ( k − 1 ) x^{(k)}=L^kx=Lx^{(k-1)} x(

  • 2
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值