论文笔记:Spectral Networks and Deep Locally Connected Networks on Graphs

这篇论文发表在2014 ICLR会议,是第一篇研究将CNN泛化到非欧式空间的论文,参考资料1直接称之为“第一代GCN”。

主要贡献:

将CNN泛化到非欧几里得空间,并提出两种并列的model,分别是基于spatial和基于spectral。

1. Spatial Construction:

进行K层聚类,每一层中又会有若干个“filter”。每层与每层之间的神经元数目是通过聚类而成,将上一层的聚类结果对应为下一层的神经元。如图,第0层有12个节点,经过聚类,第1层有6个节点,第2层仅有3个节点。

Figure 1 展示了节点聚类的过程。

Figure 2 展示了卷积 和 池化的整个过程。

公式2.1 是本文提出的第一类model的卷积公式,Lk是池化,h是激活函数,F为每一层的每一个特征的权值向量。

(此处可以联系到欧式空间中CNN的卷积,池化)

2. Spectral Construction

基于图谱理论来阐述,有关graph spectral的相关知识,见参考资料1。

卷积公式如下所示:

3.扩展补充

spectral methods 和 spatial methods区别:

1.Spectral methods usually handle the whole graph simultaneously and are difficult to parallel or scale to large graphs.

2.Spatial methods directly perform the convolution in the graph domain by aggregating the neighbor nodes’ information. Together with sampling strategies, the computation can be performed in a batch of nodes instead of the whole graph, which has the potential to improve the efficiency

参考资料:

1.从CNN到GCN的联系与区别——GCN从入门到精(fang)通(qi)
https://www.zhihu.com/question/54504471

2.论文笔记之Spectral Networks and Deep Locally Connected Networks on Graphs - BVL的博客 - CSDN博客
https://blog.csdn.net/bvl10101111/article/details/53426226

  • 1
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值