【论文学习】GCN: SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

于 2022-10-20 23:03:22 发布
阅读量246 收藏
点赞数
分类专栏： 机器学习&深度学习 文章标签： 学习 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WitsMakeMen/article/details/127436395
版权

介绍：

论文提出了一种半监督卷积学习的方式学习图结构上的信息。通过局部一阶近似谱图卷积进行了改进。模型计算复杂度和节点关系是线性关系。

半监督学习损失函数

在这里插入图片描述
在这里插入图片描述
Lreg作为约束条件，主要用来学习没有label的node节点，假设是邻居节点共享相同的label，所以用邻居节点来约束没有label的节点，达到半监督学习的目的。

论文的主要贡献

在这里插入图片描述
第一个贡献是提出来一个直接作用于图上的算法，并且提出了改进的一阶近似算法。第二个贡献是这个图算法有效的应用于半监督学习中。

快速近似算法

理论依据

在这里插入图片描述
D是度矩阵，A是邻接矩阵，用度矩阵平方后取逆和邻接矩阵构成了类似于权重概念的矩阵，然后H想当于每个节点的特征矩阵，H*W相当于对特征矩阵进行了线性变换，然后用权重矩阵对每个节点使用其他节点对应的特征项进行加权求和。有点类似于self-attention的概念。

近似算法 SPECTRAL GRAPH CONVOLUTIONS

在这里插入图片描述
通过图的拉普拉斯矩阵定义了函数g，然后对函数g进行了矩阵分解，用拉普拉斯矩阵进行矩阵分解后结果和x特征向量进行相乘。但是进行矩阵分解和矩阵乘法的时间复杂度O(n^2)，时间复杂度比较高。
在这里插入图片描述
为了解决时间复杂度比较高的问题，使用切比雪夫近似计算的方式，近似逼近函数g
在这里插入图片描述
将切比雪夫多项式嗲如上面公式，得到近似的计算公式，这个计算复杂度是和节点的边成线性关系。

模型结构 LAYER-WISE LINEAR MODEL

在这里插入图片描述
网络怎么利用切比雪夫多项式进行了模型的简化，还是没有看懂，后面有时间在理解吧。

模型结构

在这里插入图片描述

在这里插入图片描述

疑问点

怎么将模型的计算复杂度优化到和图网络节点线性相关的？

WitsMakeMen
关注
专栏目录
《SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS》代码详解（Tensorflow版）
LIYUO94的博客
06-11 1525
paper链接 code链接 文件目录结构： 运行要求： ‘numpy>=1.15.4’, ‘tensorflow>=1.15.2,<2.0’, ‘networkx>=2.2’, ‘scipy>=1.1.0’ setuptools==40.6.3 可通过bash运行setup.py 安装运行必要的包版本。 数据集： 载入数据的维度（以Cora数据集为例） adj(邻接矩阵)：由于比较稀疏，邻接矩阵格式是LIL的，并且shape为(2708, 2708) features
GCN代码详解（SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS（2017ICLR））
jkokj23153的博客
09-15 1940
这里给的代码链接是用PyTorch实现的，原始论文中的代码是用Tensorflow实现的，有兴趣的可以自己玩
Semi-supervised Classification with Graph Convolutional Networks
tszupup的博客
04-20 849
今天准备在所里分享的文章，GCN的提出论文，2017年发表在ICLR上，目前（截止到2019/4/20）在谷歌学术上被引用了近1000次。 ...
【GCN】SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS
NaNianSuYan的博客
04-26 712
阅读论文时查找到的一些觉得有用的资料，整理收集，方便以后参考。 论文地址： Semi-Supervised Classification with Graph Convolutional Networks 1：CNN与GCN的联系与区别 知乎地址：从CNN到GCN的联系与区别——GCN从入门到精（fang）通（qi） 简书：浅析图卷积神经网络 2：论文原理翻译前3章：图卷积神经网络的半监...
图卷积网络之Semi-supervised Classification with Graph Convolutional Networks
画心
03-02 4099
Semi-supervised Classification with Graph Convolutional Networks 文章是一片使用谱图卷积的一节近似方法简化一种有效的卷积神经网络的直接应用在图上的变体, 实现对于图结构数据的半监督学习,&amp;nbsp; We motivate the choice of our convolutional architecture via a loc...
【图卷积网络】Semi-Supervised Classification with Graph Convolutional Networks
扬帆·启航
03-16 3013
将卷积扩展到图结构的数据中，能够得到比较好的数据表示，并且在半监督任务中也取得了不错的效果。
[GCN] 代码解析 of GitHub：Semi-supervised classification with graph convolutional networks
01-21
本文解析的代码是论文Semi-Supervised Classification with Graph Convolutional Networks作者提供的实现代码。 原GitHub：Graph Convolutional Networks in PyTorch 本人增加结果可视化 (使用 t-SNE 算法) 的GitHub...
semi -supervised classification with graph convolutional networks学习必记
01-07
半监督学习：用于少量节点标签未知，例如文本、citation network、知识图谱分类 2 主要思想 采用图卷积中的一阶局部近似（即K=1），这部分的理解可以参考Chebyshev多项式作为GCN卷积核 当K=1 时有两个参数,模型...
【GCN】论文浅读：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS
没有胡子的猫Asimov
11-12 595
title: GCN cover: https://gitee.com/Asimok/picgo/raw/master/img/MacBookPro/20201112141842.jpg GCN GCN：图卷积网络 SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS：基于图卷积网络的半监督分类 任务 在图结构数据中，一部节点已知标签，剩下的节点标签未知，使用已知标签的节点训练卷积神经网络，使用网络模型对无标签的节点进行分.
【GCN】论文笔记：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS
热门推荐
夏至是个程序媛
11-29 4万+
本文为论文SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS的阅读笔记. 文章目录SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS基于图卷积网络的半监督分类摘要一、INTRODUCTION二、Graph中的快速卷积2.1 谱图卷积第一种卷积...
【论文阅读】Semi-supervised classification with graph convolutional networks
weixin_53563701的博客
08-29 1102
这里是GCN图神经网络论文的阅读笔记、学习过程中有帮助的一些链接等
Semi-Supervised Classification with Graph Convolutional Networks
我爱写报告的博客
05-20 448
解决的问题 我们提出了一个稳定的方法来半监督地学习图结构的数据，这种方法基于一种卷积网络的变体，是将卷积网络直接作用在图上。我们是基于对一种谱图卷积的一阶近似选择的这种卷积结构。我们的模型能够学到既可以编码局部的图结构也可以编码节点特征的隐藏层表示。在引文网络和知识图谱数据集上进行的一系列实验表明，我们的方法跟类似方法相比有显著的提升。 问题形式化 本文考虑的是对图上的节点进行分类，而图中只有一小部分节点有标签。这类问题可以被形式化为基于图的半监督学习，其中标签信息通过一些显式的基于图的正则来进行平滑，例如
paper reading：[renormalization]Semi-supervised Classification with Graph Convolutional Networks
真理无穷，进一步有进一步的欢喜
02-08 937
paper reading：[Renormalization Trick] Semi-supervised classification with graph convolutional networks 文章目录paper reading：[Renormalization Trick] Semi-supervised classification with graph convolutional...
SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS个人理解
yuzhijiedingzhe的博客
12-25 1万+
SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 总体介绍： 在该篇论文中，作者提出了一种可扩展式的半监督学习卷积神经网络方法处理基于图结构的数据。论文中作者所提出的方法应用的是关于图结构数据中的聚类问题。通过图结构数据中部分有标签的节点数据对卷积神经网络结构模型训练，使网络模型对其余无标签的数据进行进一步分类，从
SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS学习笔记
qq_44569072的博客
08-15 493
图卷积的理论基础 理论参考 GCN基于频域的方法，空域方法见graphsage 图拉普拉斯矩阵 定义：L = D - A 对称L的标准化：L=D−1/2LD−1/2L=D^{-1/2}LD^{-1/2}L=D−1/2LD−1/2 非对称L的标准化：L=D−1LL=D^{-1}LL=D−1L 傅里叶变换 傅里叶卷积 傅里叶卷积可以表示为： f∗g=F−1{F{f}⋅F{g}}f*g=F^{-1}\l...
SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS笔记
csdn_czx12345的博客
07-16 200
1. Introduction 提出可以直接在图上操作的卷积神经网络，使用谱图卷积的局部一阶近似来确定卷积结构。 用于半监督学习，进行节点分类 2. 图上的快速近似卷积 先给出多层GCN基于下面的逐层传递规则： A~=A+IN\tilde{A}=A+I_NA~=A+IN​，INI_NIN​为单位矩阵，A为邻接矩阵，即A~\tilde{A}A~为图的邻接矩阵加上自环。D~ii=∑jA~ij\tilde{D}_{ii}=\begin{matrix} \sum_{j} \end{matrix}\tilde
[解读] Semi-Supervised Classification with Graph Convolutional Networks
天在那边
06-06 577
作者受到谱图卷积的局部一阶近似的启发, 提出一种可扩展的图卷积网络, 可用于具有图结构数据的半监督学习. 论文链接: https://arxiv.org/abs/1609.02907v4 相关工作 本文考虑节点分类的半监督问题, 即所有节点中只有一部分的标签是已知的. (Zhu et al., 2003; Zhou et al., 2004; Belkin et al.,2006; Weston et al., 2012) 等提出的方法, 标签信息通过某种显式的正则化基于图的正则化项来表达, 并且标签 信
3.《SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS》论文理解
moster.YC的博客
04-11 371
在《SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS》 中，作者对《Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering》作出了改进，提出了以下创新： （1）提出了一个可以直接在图上操作的神经网络模型的逐层传播规则；...
GCN: Semi-Supervised Classification With Graph Convolutional networks
qq_35091353的博客
08-29 328
论文阅读笔记: https://blog.csdn.net/qq_41727666/article/details/84640549 github论文链接:SEMI-SUPER CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS GitHub代码链接:TensorFlow版本 pytorch版本
SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 代码
最新发布
07-27
- *2* [Kipf-GCN《Semi-Supervised Classification With Graph Convolutional Networks》论文详解](https://blog.csdn.net/u012762410/article/details/127177181)[target="_blank" data-report-click={"spm":"1018....
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

WitsMakeMen

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值