Simplifying Graph Convolutional Networks

最新推荐文章于 2022-05-06 16:11:25 发布
最新推荐文章于 2022-05-06 16:11:25 发布
阅读量2.1k 收藏 10
点赞数 2
分类专栏： CV 文章标签： 深度学习 神经网络 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42617455/article/details/108165466
版权
本文介绍了图卷积网络（GCN）的基本原理，包括图的非欧几里得结构、图卷积算子的工作方式，以及拉普拉斯矩阵在GCN中的作用。接着，文章提出了简化的图卷积（SGC），通过消除非线性并折叠成线性变换，降低了计算复杂度。实验证明，SGC在保持一定性能的同时，效率显著提高。
摘要由CSDN通过智能技术生成

一、相关介绍

CNN处理的图像或者视频数据中像素点是排列整齐的矩阵（Euclidean Structure），如图2。但是如社交网络、信息网络中存在一些Non Euclidean Structure的数据，如图3.
在这里插入图片描述
图1 图像矩阵示意图

在这里插入图片描述

图2 社交网络拓扑示意图

所以，GCN中的Graph指的是数学中的用顶点和边建立相应关系的拓扑图。产生的原因如下：
CNN无法处理Non Euclidean Structure的数据（离散卷积无法在这样的数据上保持平移不变性），也就是每个拓扑图中每个顶点的相邻顶点数目都可能不同，无法用一个同样尺寸的卷积核来进行卷积计算。

什么是图卷积神经网络

GCN是一种能对图数据进行深度学习的方法；

图卷积算子：

在这里插入图片描述

其中，i 为中心节点

最低0.47元/天 解锁文章
Mounsey
关注
专栏目录
图神经网络论文阅读(二十一) Simplifying Graph Convolutional Networks，ICML2019
qq_36618444的博客
11-12 641
本文作者来自Cornell University， Federal Institute of Ceara (Brazil)。 本文提到，GCNs从其深度学习传承中继承了相当大的复杂性，这对于要求较低的应用程序来说可能是负担和不必要的。因此本文旨在采用线性模型的方式去降低GCN的复杂度，通过反复去除GCN层之间的非线性，并将结果函数压缩为单个线性变换，来降低GCNs的过度复杂性，并提出网络Simple Graph Convolution (SGC)。 Model 假设GCN层之间的非线性不是关键的——但是大
可扩展图神经网络论文追踪
jkokj23153的博客
09-29 521
可扩展图神经网络论文追踪
【论文阅读】Simplifying Graph Convolutional Networks
qq_43955154的博客
05-06 840
SGC浅读
【论文笔记】Simplifying Graph Convolutional Networks --- LCML2019
weixin_44884854的博客
10-13 1486
本文介绍了一种简化版的GCN网络，其在某些任务上取得了与其他方法相媲美的成绩，并且大大减少了运算量，调高了计算效率。 概述 GCN和它的变体已经成为了图表示学习的事实方法。GCN的灵感主要来自最近的深度学习方法，它可能继承了一些不必要的复杂性和冗余计算。在本文中，我们将通过移除连续层中的非线性变换、折叠权重矩阵来减少计算过量的复杂度。我们从理论上分析了所得到的线性模型，并表明它等价于一个固定的低通滤波器（后面有个线性分类器）。模型对大多数下游任务没有负面影响。 1 介绍 GCNs是CNN在图结.
SGC - Simplifying Graph Convolutional Networks 简化的图卷积网络 论文详解 ICML 2019
知行合一，止于至善
10-15 1万+
文章目录1 相关介绍1.1 Simple Graph Convolution (SGC)提出的背景1.2 SGC效果2 Simple Graph Convolution 简化的图卷积2.1 符号定义2.2 图卷积网络GCNGCN vs MLPFeature propagation 特征传播Feature transformation and nonlinear transition分类器2.3 简...
【GCN】论文笔记：Simplifying Graph Convolutional Networks
m0_50611867的博客
01-14 1244
简化的图卷积网络一、前言1、SGC研究背景2、最终输入输出3、符号定义二、GCN1、特征传播2、特征变换和非线性过渡3、分类器三、SGC1、线性化2、逻辑回归3、谱域分析四、总结 一、前言 1、SGC研究背景 GCNs的灵感主要来自于深度学习方法，因此可能会继承不必要的复杂性和冗余计算。在本文中，我们通过去除连续层的非线性变换和折叠权重矩阵（反复去除GCN层之间的非线性变换并将结果函数分解为单一的线性变换）来减少这一超额复杂性。我们从理论上分析得到的线性模型，并表明它对应于一个固定低通滤波器，然后是一个线
simplifying graph convolutional networks
最新发布
03-16
简化图卷积网络是一种用于图像识别和语音识别等任务的深度学习模型。它通过对图像或语音信号进行卷积操作来提取特征，然后将这些特征传递给后续的层进行分类或回归。简化图卷积网络的主要优点是可以处理任意形状的...
论文学习笔记：Simplifying Graph Convolutional Networks
weixin_40675092的博客
06-25 255
原文连接 https://arxiv.org/pdf/1902.07153.pdf 本文作者提出SGC，通过移除非线性变换和压缩卷积层之间的权重矩阵来降低 GCN 的复杂性。并且作者在理论上分析了得到的线性模型，认为它实际上是一个固定的低通滤镜，后接线性分类器。实验表明，这种简化，并且不会对下游分类器的准确度带来负面影响。因此，模型可以推广到更大的数据集，并且比FastGCN产生高达两个数量级的加速。 GCN中的网络层有个重要的功能，在每一层中，隐含状态的表达是由一步邻居的特征平均得到的。也就是说，K层之
论文笔记：ICML 2019 Simplifying Graph Convolutional Networks
qq_44015059的博客
09-17 919
前言 随着2017年GCN概念的提出，近年来越来越多的GCN方法被提出。由于GCN本身的提出来源于深度学习中CNN和RNN的概念，因此可能会继承其中一些不必要的复杂度和冗余计算，本文提出了一种简化的图卷积方法(Simplifying Graph Convolutional)。通过消除GCN层之间的非线性计算，通过将得到的函数折叠成一个线性变换来减少GCN带来的额外复杂度，并且从图卷积的根源–频谱分析中得到SGC的理论支撑，证明了SGC相当于一个固定的低通道滤波器和一个线性分类器。试验结果表明，这些简化不会多
Python-SimplifyingGraphConvolutionalNetworks论文的官方实现
08-11
"Simplifying Graph Convolutional Networks"论文的官方实现
Graph Convolutional Networks.zip
09-20
这是个人平时学习中找到的图卷积神经网络的基本资料，图神经网络分为空间卷积和谱图卷积两种形式，这些资料中都有所涉及，希望对大家的学习有所帮助。
SGC：“简化图卷积网络”论文的正式实施
02-03
简化图卷积网络 更新 正如＃23所指出的，在reddit数据集的预处理代码中存在一个细微的错误。 修复此错误后，SGC的F1得分为95.0（以前是94.9）。 实用建议：标准化特征为零均值且标准差为1的值通常会非常有帮助，以加快SGC（和许多其他线性模型）的收敛。 例如，我们应用此规范化。 将SGC应用于其他数据集时，请考虑这样做。 有关一些相关的讨论，请参见以及。 作者： * * * *：平等贡献 总览 此存储库包含简单图卷积（SGC）模型的示例实现，在ICML2019论文《。 SGC消除了非线性并折叠了图卷积网络（GCN）中的权重矩阵，并且本质上是一个线性模型。 举例来说， SGC可以在保持竞争优势的同时节省大量培训时间。 作为参考，在GTX 1080 Ti上， 数据集 公制 训练时间 科拉 累计：81.0％ 0.13秒 Citeseer 累计：71.9％ 0.14秒 Pubmed 累计：78.9％ 0.29秒 Reddit F1：94.9％ 2.7秒 该家庭仓库包含引文网络（Cora，Citeseer和Pubmed）和社交网络（Reddit）的实现
改进版GCN 学习Simplifying Graph Convolutional Networks
weixin_43537073的博客
01-15 2605
本文是SGC（简化版GCN），主要通过连续去除非线性和在连续层之间的折叠权矩阵来减少GCN的复杂性。而且这些简化不会对准确性产生负面影响。在Reddit上比FastGCN产生两个数量级的加速。 文章目录一、Introduction一、pandas是什么？ 一、Introduction 简单来说，本文就是把非线性的GCN转换成一个简单的线性模型SGC，反复消除GCN层之间的非线性并将得到的函数折叠成一个线性变换来减少GCNs额外的复杂度。其实对于要求较低的应用来说，这是不必要的。 一、pandas是什么？
《Simplifying Graph Convolutional Networks》阅读笔记
LW的技术小筑
11-25 566
文章概述 作者指出现如今GCN和其变体模型好多遵从如下范式： Hl+1=σ(SHkWk+1)(1) H^{l + 1} = \sigma(SH^{k}W^{k + 1}) \tag{1} Hl+1=σ(SHkWk+1)(1) 其中σ\sigmaσ表示非线性变换，例如RELU，矩阵SSS表示包含图结构信息的各种矩阵变体，例如D−1/2AD−1/2D^{-1/2}AD^{-1/2}D−1/2AD−1/2，而Wk+1W^{k + 1}Wk+1表示第k+1k + 1k+1层的可学习的权重矩阵。但这种范式的GCN模型
图卷积网络（Graph Convolutional Network）
bbbeoy的专栏
04-01 279
https://blog.csdn.net/lijunweiyhn/article/details/87926425
【图神经网络】SGC：简化图卷积网络
bqw的博客
04-05 3332
SGC：简化图卷积网络 《Simplifying Graph Convolutional Networks》 论文地址：https://arxiv.org/abs/1902.07153 一、简介 ​ 图卷积神经网络(Graph Convolutional Networks,GCNs\text{Graph Convolutional Networks,GCNs}Graph Convolutional Networks,GCNs)是卷积神经网络在图数据上的变体，其通过在非
图卷积Graph Convolutional Networks
热门推荐
lemontree的博客
07-18 2万+
CNN已经在计算机视觉（CV）以及自然语言处理等领域取得了非常好的水平，其中的数据可以被称作是一种Euclidean Data，CNN正好能够高效的处理这种数据结构，探索出其中所存在的特征表示。所谓的欧氏（欧几里德）数据指的是类似于grids, sequences… 这样的数据，例如图像就可以看作是2D的grid数据，语音信号就可以看作是1D的grid数据。但是现实的处理问题当中还存在大量的 No...
如何理解图卷积神经网络GCN（Graph convolutional networks）[说人话版]
weixin_43279911的博客
12-11 4712
学习图卷积网络思路指南（GCN谱域版） 前言 csdn、知乎等平台上已经有不少的关于GCN的解读，本文尝试脱离数学推导部分，而梳理一下GCN的正向学习思路，此处推荐优秀博文，以及知乎问答高质量回答。废话不多说，我们开始吧！ 一、欧式数据与非欧数据 Eucliden domains data （欧式数据）和non-Eucliden domain data（非欧数据），在现实生活中都有着大量的应用。 ......
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值