图神经网络（二十五）L2-GCN: Layer-Wise and Learned Efficient Training of Graph Convolutional Networks

最新推荐文章于 2022-06-14 21:27:00 发布
最新推荐文章于 2022-06-14 21:27:00 发布
阅读量720 收藏 5
点赞数 2
分类专栏： 图神经网络论文集锦 文章标签： GNN
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43198122/article/details/115327693
版权

本文收录于CVPR2020，作者来自于德克萨斯农工大学。GCN的性能是不可否认的，但将GCN应用于大图面临着高昂的时间复杂度和空间复杂度，因为计算每个节点的嵌入表示需要递归的从邻居节点那聚合邻居的信息，并且随着层数的增长邻域数量也成倍增长。本文提出了一种新的用于GCN的分层训练框架(L-GCN)，该框架将训练过程中的特征聚合和特征变换分离开来，从而大大降低了时间复杂度和空间复杂度。在后面作者进一步提出了 L 2 L^2 L2

了解本专栏 订阅专栏 解锁全文 超级会员免费看
码匀
关注
  • 2
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
专栏目录
订阅专栏
【Graph Neural Network】GCN: 算法原理，实现和应用
浅梦的学习笔记
08-18 6572
半年前写过一系列关于Graph Embedding技术的介绍文章， 【Graph Embedding】DeepWalk：算法原理，实现和应用 【Graph Embedding】LINE：算法原理，实现和应用 【Graph Embedding】Node2Vec：算法原理，实现和应用 【Graph Embedding】SDNE：算法原理，实现和应用 【Graph Embedding】Struc2Vec...
可扩展图神经网络论文追踪
jkokj23153的博客
09-29 474
可扩展图神经网络论文追踪
【论文翻译】Graph Contrastive Learning with Augmentations
weixin_42552121的博客
11-01 1194
Graph Contrastive Learning with Augmentations 目录 Graph Contrastive Learning with Augmentations 摘要 1，引言 2，相关工作 3，方法论 3.1，图形的数据增强 3.2，图对比学习 4，数据增强在图形对比学习中的作用 4.1，数据指导是至关重要的。构成指导的好处。 4.2，有效图形增强的类型、范围和模式 4.3，与“更硬”的任务不同，过于简单的对比任务并没有帮助。 5，与最先进的方法的
[论文笔记]Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks
知行合一，止于至善
08-24 1万+
文章目录Abstract1. IntroductionPrevious GCN Training Algorithms2. Background图卷积网络（GCNs）3. Proposed AlgorithmWhy does vanilla mini-batch SGD have slow per-epoch time?Embedding utilization can reflect compu...
jax-gcn:JAX 中的图卷积网络
05-30
如果您在研究中使用它，请引用该论文： @article{kipf2016semi, title={Semi-Supervised Classification with Graph Convolutional Networks}, author={Kipf, Thomas N and Welling, Max}, journal={arXiv prepri
MixHop-and-N-GCN：“ MixHop：通过稀疏邻域混合进行的高阶图卷积体系结构”的实现（ICML 2019）
02-06
MixHop和N-GCN ⠀ PyTorch实现的“ MixHop：通过稀疏邻域混合进行的高阶图卷积体系结构”（ICML 2019）和“一个高阶图卷积层”（NeurIPS 2018）。 抽象 最近的方法通过近似图拉普拉斯算子的本征基，将卷积层从...
LA-GCN：针对图卷积网络的可学习聚合器的TensorFlow实现
02-18
TensorFlow中用于图卷积网络的可学习聚合器 图卷积网络的可学习聚合器的TensorFlow实现。 通过引入共享的辅助模型为GCN（LA-GCN）提供可学习的聚合器，该模型在邻域聚合中提供了自定义架构。 在此框架下，提出了一...
la-gcn-torch:PyTorch中用于图卷积网络的可学习聚合器的实现
03-14
PyTorch中用于图卷积网络的可学习聚合器 PyTorch中用于图卷积网络的可学习聚合器的实现。 通过引入共享的辅助模型为GCN（LA-GCN）提供可学习的聚合器，该模型在邻域聚合中提供了自定义架构。 在此框架下，提出了一...
GraphDeeSmartContract:使用图神经网络（DR-GCN）的智能合约漏洞检测
05-08
此仓库是使用图神经网络（DR-GCN）进行智能合约漏洞检测的python实现。 要求 所需的包 python 3或以上 PyTorch 1.0.0 numpy的1.18.2 sklearn用于模型评估 运行以下脚本以安装所需的软件包。 pip install --...
读书笔记4：Stochastic Training of Graph Convolutional Networks with Variance Reduction
b224618的博客
07-30 2752
本文提出的背景是：graph convolutional networks（GCN），一层一层的迭代，进行卷积，receptive field随着层数的增加呈指数级扩大，增加了计算负担。之前曾有通过对neighbors进行下采样的方法来减小receptive field的方法，但是不能保证其收敛性,并且receptive field还是很大。本文提出了“control variate based ...
图卷积网络 GCN Graph Convolutional Network（谱域GCN）的理解和详细推导
热门推荐
知行合一，止于至善
08-24 15万+
文章目录1. 为什么会出现图卷积神经网络？2. 图卷积网络的两种类型2.1 vertex domain(spatial domain)：顶点域（空间域）2.2 spectral domain：频域方法（谱方法）3. 什么是拉普拉斯矩阵？3.1 常用的几种拉普拉斯矩阵普通形式的拉普拉斯矩阵对称归一化的拉普拉斯矩阵（Symmetric normalized Laplacian）随机游走归一化拉普拉斯矩...
浅谈GCN
宁静致远
06-17 2万+
GCN(Graph convolution Network)是Convets在图结构上的自然推广。卷积神经网络是采用局部感知区域、共享权值和空间域上的降采样，相对于位移、缩放和扭曲，具有稳定不变的特性，能够很好的提取图像的空间特征。图结构不具备图片的平移不变性，传统的卷积方式不适用于图结构。图中每个节点的邻域节点数目不一致，无法用同样尺寸的卷积核进行提取特。 而GCN的本质就是提取图的结构...
论文笔记——Permutohedral-GCN: Graph Convolutional Networks with Global Attention
weixin_44303356的博客
06-01 796
【论文笔记】Permutohedral-GCN: Graph Convolutional Networks with Global Attention 作者：HeshamMostafa，MarcelNassar 代码：无 摘要 图卷积网络（GCNs）通过聚集图中邻居节点的特征来更新节点的特征向量。这会忽略来自遥远节点的潜在有用贡献。本文引入了一种全局注意力机制，其中一个节点可以有选择地关注并聚合图中任何其他节点的特征。注意力系数依赖于可学习的节点嵌入之间的欧氏距离，我们证明了基于注意力的全局聚集方案类似于高
如何使用图卷积网络在图上进行深度学习（二）（How to do Deep Learning on Graphs with Graph Convolutional Networks）
weixin_43747748的博客
06-30 968
Part 2: Semi-Supervised Learning with Spectral Graph Convolutions 基于图的机器学习是一项艰巨的任务，因为它非常复杂，而且信息结构也很丰富。这篇文章是有关如何使用图卷积网络（GCN）在图上进行深度学习的系列文章中的第二篇，图卷积网络是一种功能强大的神经网络，旨在直接在图上工作并利用其结构信息。我将简要回顾上一篇文章，但您可以在这里找到该系列的其他部分： 图卷积网络的高级介绍 具有谱图卷积的半监督学习（本文） 在上一篇文章中，我对GCN作了简要
【Code】关于 GCN，我有三种写法
阿泽的学习笔记
05-21 2644
本篇文章主要基于 DGL 框架用三种不同的方式来实现图卷积神经网络。 1. DGL DGL（Deep Graph Library）框架是由纽约大学和 AWS 工程师共同开发的开源框架，旨在为大家提供一个在图上进行深度学习的工具，帮助大家更高效的实现算法。 用现有的一些框架比如 TensorFlow、Pytorch、MXNet 等实现图神经网络模型都不太方便，同样现有框架实现图神经网络模型的速度不够快。 DGL 框架设计理念主要在于将图神经网络看作是消息传递的过程，每一个节点会发出它自己的消息，也会接收来自其
HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs--论文笔记
mei1318874404的博客
05-07 2827
论文题目–《超图卷积网络–一种新的方法用于训练超图的图卷积网络》 摘要 在许多现实世界的网络中，其实有很多关系都不仅仅是成对的关系，比如co-authorship, co-citation网络，其中的关系非常的复杂。超图提供了一种灵活且自然的工具去模拟诸如以上网络的复杂关系。以上存在的复杂的关系刺激了使用超图学习的问题。目前一种流行的方法是基于超图的半监督学习，其目标是分配标签给超图中没有标签的节...
【点云处理之论文狂读经典版13】—— Adaptive Graph Convolutional Neural Networks
yuanmiyu6522的博客
06-14 1202
本文所参考的方法将 one-hop local kernel 扩展到了 KKK-hop 连接的情况上。根据graph Fourier transform，如果UUU是LLL的graph Fourier basis集合，那么： xk+1=σ(gθ(LK)xk)=σ(Ugθ(ΛK)UTxk). x_{k+1}=\sigma\left(g_{\theta}\left(L^{K}\right) x_{k}\right)=\sigma\left(U g_{\theta}\left(\Lambda^{K}\right)
人工神经网络学习笔记
Reborn_inuyasha的博客
05-13 425
原文指路1：https://blog.csdn.net/wsxzhbzl/article/details/83537662 原文指路2：https://blog.csdn.net/weixin_43077261/article/details/97259237 这是典型的三层神经网络的基本构成，Layer L1是输入层，Layer L2是隐含层，Layer L3是隐含层，我们现在手里有一堆数据{x1,x2,x3,…,xn},输出也是一堆数据{y1,y2,y3,…,yn},现在要他们在隐含层做某种变换
时空图卷积神经网络(st-gcn)
最新发布
12-07
时空图卷积神经网络（Space-Time Graph Convolutional Network，简称ST-GCN）是一种用于处理时空数据的神经网络模型。它主要应用于视频动作识别、姿态估计等任务，能够有效地从连续视频序列中学习时空特征。 ST-GCN...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码匀

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值