GCC 文献阅读笔记

最新推荐文章于 2022-07-14 20:14:20 发布
最新推荐文章于 2022-07-14 20:14:20 发布
阅读量189 收藏
点赞数
分类专栏： 文献阅读 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/NINJA_xu/article/details/120672082
版权
GCC是2020年KDD会议上提出的一种用于图神经网络预训练的方法，通过自监督任务学习跨图形的结构表示。它采用图形对比编码框架，利用InfoNCE损失和r-ego网络区分相似与不同实例。GCC在预训练后可针对不同的图学习任务进行微调，适用于图级和节点级任务。实验表明，预训练的GCC在多个图形学习任务上的性能与从头开始的监督训练相当。
摘要由CSDN通过智能技术生成

论文题目

GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training

发表日期、所属会议/期刊/预印本

KDD 2020

做得什么

使用自监督任务对GNN进行预训练，然后针对不同的图学习任务对其进行微调。使用图形对比编码（GCC）框架来学习跨图形的结构表示。

怎么做的（重点）

  • GCC的预训练和微调阶段，如图：

  •  预训练        

  1. 目标： 预先训练一个通用图神经网络编码器，以捕获这些图背后的结构模式。
  2. 采用InfoNCE Loss，q,k为编码查询实例和密钥实例（ NCE 的核心思想就是通过学习数据分布样本和噪声分布样本之间的区别，从而发现数据中的一些特性。），如图：

  3. r-ego网络：对于某个顶点v，定义了一个实例为其r-ego网络, 而子图是由不同邻居节点产生的图。GCC将每个ego网络视为其自
最低0.47元/天 解锁文章
NINJA_xu
关注
专栏目录
GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training
欢迎订阅 -- 小源笔迹
07-08 417
目前图表示学习在许多任务上取得了很好的效果但是都是关注于具体领域的并不具有迁移性。本文借鉴预训练思想，设计了一个自监督图神经网络框架来在多个网络中捕获一般化的网络拓扑结构属性。我们设计的预训练任务是在多个网络之间判别子图实体，使用对比学习强化图神经网络来学习固有的，可迁移的结构化表示。假设：具有代表性的图结构模式是一般化的且在网络之间可迁移。 过去二十多年的工作主要关注点在发掘不同网络中潜在的一般化的结构属性。最近几年图学习的重点从结构模式挖掘转向图表示学习。将结点，边，子图等转化为低维嵌入可以保留一些重要
GCC 学习 笔记GCC学习笔记
04-22
### GCC 学习笔记知识点详解 #### 一、GCC简介与版本检查 - **GCC**（GNU Compiler Collection）是一款开源的编译器集合，广泛应用于Linux等类Unix系统上，支持多种编程语言如C、C++等。 - **版本检查**： - 要...
【论文阅读｜浅读】GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training
海到无边天作岸 山登绝顶我为峰
07-14 1801
Hello！自我介绍ଘ(੭ˊᵕˋ)੭昵称海轰标签程序猿｜C++选手｜学生简介因C语言结识编程，随后转入计算机专业，获得过国家奖学金，有幸在竞赛中拿过一些国奖、省奖…已保研。学习经验扎实基础+多做笔记+多敲代码+多思考+学好英语！唯有努力💪知其然知其所以然！本文仅记录自己感兴趣的内容原文链接https会议KDD'20（CCFA类）代码https年度2020/08/20图表示学习已经成为解决现实问题的强大技术，以预训练。......
GCC: Graph Contrastive Coding for Graph Neural NetworkPre-Training
yihanyifan的博客
06-29 1524
图表示学习已经成为解决现实问题的强大技术。各种下游图学习任务受益于其最近的发展，如节点分类、相似度搜索和图分类。然而，现有的图表示学习技术专注于领域特定的问题，并为每个图数据集训练一个专用模型，这通常不可转移到域外数据。受自然语言处理和计算机视觉在预训练方面的最新进展的启发，我们设计了图对比编码(GCC)1 -一个自我监督的图神经网络预训练框架，以捕获跨多个网络的通用网络拓扑属性。我们将GCC的预训练任务设计为网络中的子图实例判别，并利用对比学习使图神经网络能够学习内在的和可转移的结构表征。我们在三个图学习
【论文阅读】GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training
cziun的博客
08-18 1819
目录摘要1 引言2 GCC2.1 GNN预训练问题2.2 GCC预训练2.2.1 设计子图实例2.2.2 定义类似/不类似的实例2.2.3 定义图编码器2.3 GCC微调3 实验 摘要 关于图表示学习的现有技术侧重于特定领域的问题，并为每个图数据集训练专用模型，该模型通常不可转移到域外数据。 受自然语言处理和计算机视觉中预训练最新进展的启发，我们设计了图对比编码（GCC）——一种自监督图神经网络预训练框架，用于捕获跨多个网络的通用网络拓扑特性。我们将GCC的预训练任务设计为网络内和网络间的子图实例鉴别，并
论文笔记--GCC Graph Contrastive Coding for Graph Neural Network Pre-Training
weixin_44139001的博客
10-22 1989
论文笔记–GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training 简介：KDD 2020发表的一篇关于预训练应用在图神经网络的论文，目前引用量120+。目标是学习一个初始化的GNN encoder，但是实验效果不佳， GCC 表现逼进甚至不如目前的GIN。论文链接???? 摘要 引言 相关工作 GCC 实验 结论 摘要 ​ 图表征学习（Graph representation learning）已经成为解决现实问题的一种强
gcc工具链的选项笔记
06-30
gcc工具链的选项笔记 gcc工具链的选项笔记是对GCC编译器的选项进行的详细记录和说明。GCC是 GNU 编译器集合（GNU Compiler Collection）的缩写，是一个自由和开放的编译器套件。GCC可以编译C、C++、Objective-C、...
Gcc-4.8.5离线安装包
最新发布
06-13
该资源为gcc4.8.5的离线安装包，包含了依赖包，以及安装脚本文件，一键安装。 cpp-4.8.5-4.el7.x86_64.rpm； gcc-4.8.5-4.el7.x86_64.rpm； glibc-2.17-105.el7.x86_64.rpm； glibc-common-2.17-105.el7.x86_64.rpm...
GCC 11.2 离线安装包
04-09
用户在安装过程中应该首先阅读此文件，以了解如何正确安装和使用这些组件。 在安装GCC 11.2时，首先需要解压所有文件，然后按照以下顺序编译和安装依赖库： 1. GMP 2. MPFR 3. MPC 每个库的编译和安装步骤与GCC...
论文阅读3:《GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training》
better_zoe_chang的博客
11-22 1446
KDD,2020 一、简介 一言以蔽之就是：在不同的图之间进行对比表示学习。（即：对某一节点进行多次采样，如果采样结果属于同一个图的相同节点，则赋予较大的比重，从而得到较小的损失，反之亦然） ...
从linux内核中学到的编程技巧
少帅的天空
07-04 2591
1构建泛型宏 （./linux/include/linux/kernel.h）#define min(x, y) ({ / typeof(x) _min1 = (x); / typeof(y) _min2 = (y); / (void) (&_min1 == &_min2); / _min1 大家看了就明白是什么意思了。但是我还有几点疑问：(1)(void) (&_min1 =
复杂网络中Ego Network（自我中心网络）部分指标的计算
热门推荐
qysh123的专栏
08-03 1万+
由于科研需要，简单研究了一下自我中心网络中指标的计算方法，这里做一个简单的总结。关于Ego Network的概念，可以参考周涛老师的博客：http://blog.sciencenet.cn/blog-3075-1072943.html 我需要在实验中对比10年前这篇ICSE文章中使用的指标： Zimmermann, Thomas, and Nachiappan Nagappan. "Predi...
文献阅读（24）KDD2020-GCC：Graph Contrastive Coding for Graph Neural Network Pre-Training
CSDNTianJi的博客
09-20 2188
本文是对《Graph Contrastive Coding for Graph Neural Network Pre-Training》一文的浅显翻译与理解，如有侵权即刻删除。
机器学习 监督学习论文_论文阅读｜浅谈图上的自监督学习——对比学习
weixin_27372101的博客
01-10 1497
前言: 本文将围绕最近一些在图上自监督学习的论文，对其中“Contrastive Learning”的内容进行一些解读，包括一些自监督学习的思路。主要论文具体信息如下：第一篇论文为2020的一篇综述(论文链接)，论文的第一作者为清华大学的Xiao Liu，具体信息如下：第二篇论文为ICML2020的一篇论文(论文链接)，论文的第一作者为加拿大Autodesk AI Lab的Kaveh Hassan...
STRATEGIES FOR PRE-TRAINING GRAPH NEURAL NETWORKS
todoooooo的博客
06-18 1060
pre-train+fine-tune的策略已经广泛地应用在了CV, NLP领域，但如何有效地利用图数据集的预训练仍然是一个有待解决的问题。本文提出了一种在node-level和graph-level同时学习的预训练模型，能够很好地得到图的局部和全局的表示。实验证明预训练模型在ROC-AUC上超过了非预训练模型9.4%，并在分子性质预测和蛋白质功能预测方面达到了最好的表现。 本文被ICLR2020接收，Strategies for Pre-training Graph Neural Networks INT
KDD 2020（二） | GCC：图上的Contrastive Coding（作者带你读论文）
AITIME_HY的博客
08-27 763
⬆⬆⬆ 点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入！论文：GCC: Graph Contrastive Coding for Graph Neur...
KDD 2020 GNN 相关论文
Jeff zhao
07-01 1817
参考：近期必读的五篇KDD 2020【图神经网络 (GNN) 】相关论文_Part2 ACM SIGKDD（国际数据挖掘与知识发现大会，简称 KDD）。今年的 KDD大会计划将于 2020 年 8 月 23 日 ~27 日在美国美国加利福尼亚州圣地亚哥举行。上周，KDD 2020官方发布接收论文，共有1279篇论文提交到Research Track，共216篇被接收，接收率16.8%。近期KDD官网公布了接受论文列表。下面是图神经网络（GNN）相关论文摘编——多层次GCN、无监督预训练...
GCC编译器在Linux中的安装与使用
"GCC是GNU Compiler Collection的缩写，是一个广泛使用的开源编译器套件，支持多种编程语言，包括C、C++、Objective-C、Fortran、Ada和Go等。GCC不仅是一个编译器，它还包含了预处理器、编译器、汇编器和链接器，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值