GCN学习笔记

GCN学习笔记

-----------------------------------------补充内容-----------------------------------------------
1、知乎的高赞文章已经很好了,虽然对初学者不友好,但内容足够丰富:
如何理解 Graph Convolutional Network(GCN)? - superbrother的回答 - 知乎
https://www.zhihu.com/question/54504471/answer/332657604
2、中科院沈华伟老师做过多次图神经网络的报告,非常受益,对初学者很友好:
https://www.bilibili.com/video/BV1ta4y1t7EK
https://www.bilibili.com/video/BV1Dz4y1Q7d4
https://www.bilibili.com/video/BV1cz4y1S7Co
3、Hamilton2020年的网络表示学习书籍:《Graph Representation learning》谷歌学术或sci-hub上有电子版
4、不要被傅里叶变换吓住,spectral GNN的过程与傅里叶变换根本没关系,其过程简单来说是把graph中的节点(节点之间有空间关系,故名空域)以Laplace特征分解后得到的特征向量为基,做了个基的变换,映射到了谱域(谱别名特征值,以谱为基,故名谱域)。这种把空域映射到谱域的过程与傅里叶变换中把时域(以时间为轴,故名时域)映射到频域(以频率为轴,故名频域)的过程类似,所以提到了傅里叶变换。

-----------------------------------------原始内容-----------------------------------------------
学习GCN时(图卷积网络),发现了两篇好文章:
1、如何理解 Graph Convolutional Network(GCN)? - superbrother的回答 - 知乎
https://www.zhihu.com/question/54504471/answer/332657604
2、如何理解 Graph Convolutional Network(GCN)? - Johnny Richards的回答 - 知乎
https://www.zhihu.com/question/54504471/answer/630639025
第一篇文章比较系统地介绍了GCN,涉及到许多数学推导,我读到一半没有理解,于是开始看第二篇文章。
第二篇文章用热传播地方式解释了信息在图中地传播,观点非常新奇并具有启发性。

学完之后,谈谈自己的理解
1、GCN与CNN地区别是什么?
处理的对象不同。CNN处理的对象是欧几里得数据(即排列规则地数据,如向量、矩阵等)。GCN处理的数据是非欧几里得数据(比如图、流形数据)。
数据聚合(aggregate)的方法不同。CNN使用卷积核对数据进行聚合,GCN使用拉普拉斯矩阵对数据进行聚合。(实质上拉普拉斯矩阵体现了现实中热传导的特性,即信息传播速度与信息的差异程度成正比,详见第二篇文章。)
表达的能力不同。GCN能够表示的数据更加复杂。
其中,处理对象的不同导致了后两者的不同。

2、卷积指的到底是什么?
神经网络中的卷积的含义与数学中的卷积含义并不完全一直。可参考文章:
哪位高手能解释一下卷积神经网络的卷积核? - superbrother的回答 - 知乎
https://www.zhihu.com/question/52237725/answer/545340892
神经网络中的卷积其实只是借鉴了数学中卷积的“聚合”的含义。
还可以参考这篇文章,非常有趣,且直观:
卷积为什么叫「卷」积? - 荆哲的回答 - 知乎
https://www.zhihu.com/question/54677157/answer/141245297

3、一句话概括GCN干了什么
使用拉普拉斯矩阵对表示为图的数据进行聚合并训练。

4、有什么想法?
1)是否所有非欧几里路数据都可以转换为图表示的形式?
2)如何将非欧几里得数据使用图进行表示?
3)是否含有其他的数据结构更好地表示数据?
4)使用其他的聚合方式会不会更好?可能有哪些聚合方式?

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值