Graph Contrastive Clustering论文笔记

最新推荐文章于 2023-09-17 17:37:45 发布
最新推荐文章于 2023-09-17 17:37:45 发布
阅读量438 收藏 1
点赞数
分类专栏： contrastive learning GNN 文章标签： 深度学习 机器学习 聚类
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/eternal_city/article/details/121754260
版权

Graph Contrastive Clustering

论文链接

总结

这篇文章将对比学习运用到图神经网络上，并且将“正样本”的概念拓展到了原样本的邻居之间。

零碎知识

深度聚类主要分为两类，一类是基于重构的方法，一类是基于自增广的方法。前者使用autoencoder对子空间的向量表达进行约束，使其对聚类更为友好；后者利用原图像和该图像经转换后的图像（transformed image）之间的相似性，来训练模型。

网络架构

（前面的部分和对比聚类一样，就不讲了，不太了解可以看这一篇前半部分）
在这里插入图片描述

图的构成

既然是图神经网络，那么必然要构建一个图，上图中RGC对应对比学习中的instance head，即可以理解为子空间的向量表达，记作 z z z； AGC则对应clustering head，可以理解为簇指派。
这篇文章使用k近邻的方法来构建图，通过计算子空间向量 z z z之间的距离，取k个最近的点作为边。
在训练过程过程中，随着 z z z的更新，图会被重建，重建方法同上，依然是knn的方法。但 z z z的更新并非直接使用最新的 z z z值，而是使用下述等式:
在这里插入图片描述
其中， t t t代表是第 t t t个epoch，这个等式即代表着第 t − 1 t-1 t−1个epcoh的 z z z值和第 t t t个epoch的 z z z值的加权平均，使 z z z的更新更平滑，有助于增强模型的稳定性。同时， z i z_i zi​的L2范式（ ∣ ∣ z i ∣ ∣ ||z_i|| ∣∣z

最低0.47元/天 解锁文章
飞花穿庭
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Awesome-Graph-Contrastive-Learning:图对比学习相关资源的收集
05-24
真棒图对比学习 与图对比学习相关的资源集合。 内容 文件 2019年 | 编码： ， tf_geometric 方法（ DGI ）：局部-全局互信息最大化 实验： 任务：传导性节点分类| 数据集： Cora，Citeseer，Pubmed。 | 基准：原始特征，标签传播，DeepWalk，DeepWalk +特征，GCN，Planetoid。 任务：归纳节点分类| 数据集： Reddit，PPI。 | 基线：原始功能； DeepWalk； DeepWalk +功能； GraphSAGE-GCN; GraphSAGE-mean; GraphSAGE-LSTM； GraphSAGE-pool; FastGCN； 平均集中。 2020年 InfoGraph：通过互信息最大化实现无监督和半监督的图级表示学习孙凡云，Jordan Hoffmann，Vikas Verma，Jian Ta
graph embedding相关论文整理
07-08
这个压缩包文件包含了关于graph embedding算法的一些精选论文，这些论文代表了该领域的最新研究进展和技术趋势。 首先，我们要理解什么是图（Graph）。图是由节点（Vertices）和边（Edges）构成的数据结构，用于...
论文阅读“Graph Contrastive Clustering”（ICCV2021）
qq_43497436的博客
04-19 1649
论文标题 Graph Contrastive Clustering 论文作者、链接 作者：Zhong, Huasong and Wu, Jianlong and Chen, Chong and Huang, Jianqiang and Deng, Minghua and Nie, Liqiang and Lin, Zhouchen and Hua, Xian-Sheng 链接：ICCV 2021 Open Access Repository Introduction逻辑 论文动机&现有
Graph Contrastive Clustering：图对比聚类
gandebeautiful的博客
04-15 2607
论文题目：Graph Contrastive Clustering Summary List item
Contrastive Clustering
weixin_43913077的博客
05-26 1144
论文链接：AAAI 2021 博客链接：基于对比学习的聚类工作 现有的大部分深度聚类（Deep Clustering）需要迭代进行表示学习和聚类这两个过程。 算法过程： 对样本进行表示 对样本进行聚类 重复1和2 缺点： 一是迭代优化的过程中容易出现误差累计 二是聚类过程通常采用 k-means 等需要全局相似性信息的算法，使得需要数据全部准备好后才能进行聚类，故面临不能处理在线数据的局限性 提出的新方法： ...
Graph Contrastive Learning with Adaptive Augmentation
xiaotiaobiu的博客
10-18 496
Graph Contrastive Learning with Adaptive Augmentation
GraphEditor:论文项目
06-01
图表编辑器 ## 开发用于构建超图的可视化编辑器的论文。主要特征： 使用 JAXB 对超图进行序列化/反序列化； 构建超图在不同选项卡中使用多个超图在构建的超图上执行算法缩放工作区构建要打开的可用文件列表
时间聚类论文目录.docx
03-13
3. **聚类分析**：论文【6】"Clustering Financial Time Series: How Long Is Enough?"专注于金融时间序列的聚类问题，研究了需要多长时间的数据才能进行有效的聚类分析。聚类是数据挖掘的重要技术，用于发现数据的...
tulun_km.zip_graph_graph clustering_theory
07-14
在标题“tulun_km.zip_graph_graph clustering_theory”中，我们可以看到核心主题是利用图理论进行聚类分析，即图聚类。描述“Using graph theory to deal with clustering problems”进一步确认了这个主题，说明...
文本分类的监督图对比预训练_Supervised Graph Contrastive Pretraining for Text
01-04
本文提出的"Supervised Graph Contrastive Pretraining for Text Classification"（监督图对比预训练）是一种创新的预训练方法，旨在利用监督信息提升文本分类的性能。 在传统的无监督对比学习中，模型通过区分不同...
【论文阅读】Simple Contrastive Graph Clustering
Danger的博客
02-08 2212
论文阅读--Simple Contrastive Graph Clustering
【代码复现】SCGC__Simple Contrastive Graph Clustering
Danger的博客
03-13 1128
【代码复现】SCGC__Simple Contrastive Graph Clustering
【论文阅读】Graph Contrastive Learning with Adaptive Augmentation
Lereno的博客
04-19 2429
Graph Contrastive Learning with Adaptive Augmentation 用于图数据增强的图对比学习 文章目录Graph Contrastive Learning with Adaptive Augmentation用于图数据增强的图对比学习摘要1 引言二、使用步骤1.引入库2.读入数据总结 摘要 近年来，对比学习（Contrastive Learning，CL）已成为一种成功的无监督图表示学习方法。大多数图的CL方法首先对输入图进行随机增强，以获得两个图的视图，并最大化两
Simple Contrastive Graph Clustering论文阅读
最新发布
haerxiluo的博客
09-17 210
对比学习由于其良好的性能最近在深度图聚类中引起了广泛的关注。然而，复杂的数据扩充和耗时的图卷积操作破坏了这些方法的效率。为了解决这个问题，我们提出了一个简单的对比图聚类（SCGC）算法，从网络架构，数据增强，目标函数的角度改善现有的方法。在体系结构上，我们的网络包括两个主要部分，即预处理和网络骨干。一个简单的低通去噪操作进行邻居信息聚合作为一个独立的预处理，只有两个多层感知器（MLP）被包括作为骨干。
论文阅读“Simple Contrastive Graph Clustering”（arxiv）
qq_43497436的博客
07-29 626
让代表个节点共分为个类别的集合，代表边的集合。以及分别代表特征矩阵和初始的邻接矩阵。代表一个无向图。度矩阵表示为以及。图拉普拉斯矩阵定义为。在GCN中，使用一个重新归一化的技巧，即，对称归一化图拉普拉斯矩阵定义为。深度图聚类的目标是将图中的结点一无监督的方式分配到一系列不相邻的组。具体来说，就是以一种无监督的方式去训练一个神经网络，通过探索结点的特征以及结构信息来对结点进行编码，即。其中，分布代表特征矩阵和原始的邻接矩阵。此外，是学到的结点嵌入，其中是样本的个数，...
GCC(Graph Contrastive Clustering)论文代码复现
weixin_43594279的博客
05-31 1108
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 Graph Contrastive Clustering论文代码复现前言一、Graph Contrastive Clustering二、代码复现1.注意事项2.utils/mypath.py3.utils/collate.py4.data/datasets_imagenet_dogs.py5.data/datasets_imagenet10.py总结参考文献 前言 未来的学习方向主要会围绕深度聚类，而近年来对比学习算法也十分火热，故对比.
论文阅读：Graph Contrastive Learning with Augmentations
yihanyifan的博客
06-17 1062
图结构数据上的广义、可转移和鲁棒表示学习仍然是当前图神经网络(GNNs)面临的一个挑战。与用于图像数据的卷积神经网络(CNNs)不同，对gnn的自我监督学习和预训练的探索较少。在本文中，我们提出了一个图对比学习(GraphCL)框架来学习图数据的无监督表示。首先，我们设计了四种图增广来包含各种先验。然后，我们在四种不同的设置中系统地研究了图增强的各种组合对多个数据集的影响:半监督、无监督、迁移学习以及对抗性攻击。结果表明，即使不调优扩展范围，也不使用复杂的GNN架构，我们的GraphCL框架可以产生与最先进
【论文阅读】Graph Contrastive Learning with Augmentations
cziun的博客
08-06 1412
图增强对比学习摘要1 引言2 相关工作3 方法3.1 图的数据增强3.2 图对比学习4 数据增强在图对比学习中的作用4.1 数据增强至关重要。增强组合好处。4.2 有效图增强的类型、范围和模式4.3 与“harder”任务不同，过于简单的对比任务没有帮助。4 与最先进的方法进行的比较 摘要 对于GNN来说，在图结构数据上的可推广、可转移和鲁棒的表示学习仍然是一个挑战。本文提出了一个用于学习图的无监督表示的图对比学习框架——GraphCL。首先，设计了四种类型的图增强器来合并各种先验。然后，我们系统地研究了不
文献阅读（71）WWW2022-CGC: Contrastive Graph Clustering for Community Detection and Tracking
CSDNTianJi的博客
07-31 887
本文是对《CGC: Contrastive Graph Clustering for Community Detection and Tracking》一文的总结，如有侵权即刻删除。
deep graph contrastive representation learning
04-11
b'deep graph contrastive representation learning'是一种深度图对比表示学习的方法。它旨在利用图结构的特性，通过将相邻节点的表示进行对比学习，来学习节点的特征表示。这种方法可以应用于多种图形数据的任务中...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值