塔_Tass-CSDN博客

原创论文阅读：All4One=Symbiotic Neighbour Contrastive Learning via Self-Attention and Redundancy Reduction

基于最近邻的方法已经被证明是最成功的自监督学习方法之一，因为它们具有很高的泛化能力。然而，当考虑多近邻时，它们的计算效率会降低。在本文中，我们提出了一种新颖的对比式SSL方法，我们称之为All4One，它基于Self-attention机制创建的“质心”来优化降低近邻表征之间的距离。我们使用质心对比损失以及1近邻对比和特征对比损失。质心有助于从多个邻居中学习上下文信息，而近邻对比使得直接从近邻中学习表征成为可能，而特征对比则允许学习特征唯一的表示。

2024-03-19 18:54:20 823

原创 pytorch: ground truth similarity matrix

本文仅作留档，用于输出可视化。

2024-02-18 20:31:18 491

原创论文阅读：Provable Guarantees for Self-Supervised Deep Learning with Spectral Contrastive Loss

最近的自监督学习方面的工作主要依赖对比学习范式：该范式通过正样本对来学习表征，同时保持负对距离很远。尽管经验上取得了成功，但理论基础是有限的——假设正样本对的条件独立，而实际中是高度相关的（即，相同图像的Augmentation）。本工作分析了对比学习，且不需要假设条件独立，使用一个新的概念的增强图（这个图中的边连接了相同数据点的Augmentation，而这些来自增强样本的groud-truth自然地形成了连接的子图。在增强图上执行谱分解的损失可以简洁地等价为神经网络表示上的对比学习目标。

2023-11-03 21:19:32 271

原创论文阅读：DLME = Deep Local-flatness Manifold Embedding

流形学习（ML, Manifold learning）旨在从高维数据中识别低维结构和嵌入，然而现有工作在采样不足的现实数据集上效果不佳。一般的ML方法对数据结构进行建模然后构造一个低维embedding，但是采样不足的现实数据会导致局部关联性/连续性较差，或由于优化目标不合适导致结构失真、embedding存在缺陷。为解决该问题提出了深度的、局部平坦的、流形embedding（DLME）：通过减少失真来获得可靠的embedding。

2023-04-25 21:34:52 1598 2

原创论文阅读：Unsupervised Manifold Linearizing and Clustering

在本文中，我们建议同时执行聚类并通过最大编码率降低来学习子空间联合表示。对合成和现实数据集的实验表明，所提出的方法实现了与最先进的替代方法相当的聚类精度，同时更具可扩展性和学习几何意义的表示。

2023-04-16 00:50:39 436 1

原创 Derivation of Doubly Stochastic clustering

论文Doubly Stochastic Clustering的公式推导过程

2023-04-14 00:07:54 449

原创论文阅读：Understanding Doubly Stochastic Clustering

将矩阵投影到双随机矩阵空间上的问题在机器学习中有几个应用。例如，在谱聚类中，从数据亲和矩阵形成归一化拉普拉斯矩阵与将其投影到双随机矩阵集上密切相关。但是，关于此投影为何改善聚类的分析有限。在本文中，我们提出了给定亲和矩阵的理论条件，在该条件下，其双随机投影是理想的亲和矩阵（即，它在簇之间没有假连接，并且在每个簇内连接良好）。我们还表明，投影亲和矩阵理想的必要和充分条件简化为输入亲和力上的一组条件，这些条件沿每个类簇分解。

2023-03-22 16:12:49 470

原创【论文阅读】Differentiable Perspective for Multi-View Spectral Clustering with Flexible Extension

与传统方法相比，深度学习方法是数据驱动的，有更大的搜索空间来寻找解决方案，这可能会找到更好的解决方案。此外，损失函数可以引入更多的考虑因素，因此深度模型是高度可重用的。然而，传统方法具有更好的可解释性，其优化相对稳定。在本文中，我们结合传统方法和深度学习方法的优势，提出了一种多视图谱聚类模型。具体来说，我们从传统谱聚类的目标函数开始，进行多视图扩展，得到传统的优化过程。然后，通过对这一过程进行部分参数化，我们进一步设计了相应的可微模块，最终构建了一个完整的网络结构。该模型具有一定的可解释性和可扩展性。

2023-03-17 15:21:27 253

原创论文阅读笔记：Ultra-Scalable Spectral Clustering and Ensemble Clustering

本文重点研究了资源有限的超大规模数据集谱聚类的可扩展性和鲁棒性。提出了两种新的算法，即超可伸缩谱聚类（U-SPEC）和超可伸缩集成聚类（U-SENC）。在U-SPEC中，针对稀疏亲和子矩阵的构造，提出了一种混合代表选择策略和K近邻表示的快速逼近方法。通过将稀疏子矩阵解释为一个二部图，然后利用转移割(transfer cut)对该图进行有效划分，并获得聚类结果。在U-SENC中，多个U-SPEC聚类器进一步集成到集成聚类框架中，以增强U-SPEC的鲁棒性，同时保持高效。

2022-10-05 13:03:56 569 1

原创论文阅读笔记：A Scalable Exemplar-based Subspace ClusteringAlgorithm for Class-Imbalanced Data

的子空间聚类方法由于其经验上的成功和理论上的保证，已成为无监督学习的常用工具。然而，它们的性能可能会受到不平衡数据分布和大规模数据集的影响。本文提出了一种基于样本的子空间聚类方法来解决大规模数据集的不平衡问题。通过计算表示系数的范数，所提出的方法搜索最能代表所有数据点的数据集子集。为了有效地求解我们的模型，我们引入了一种最远优先搜索算法，该算法迭代地选择代表性最差的点作为样本。当数据来自子空间的并集时，我们证明了即使数据是不平衡的，计算的子集也包含足够多的来自每个子空间的样本来表示所有数据点。我们的实验

2022-04-18 20:25:11 440 2

原创论文阅读笔记：图卷积网络

Cite: SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKShttps://arxiv.org/abs/1609.02907摘要我们提出了一种可扩展的图结构数据半监督学习方法，该方法基于直接操作于图的卷积神经网络的有效变体。我们通过谱图卷积的局部一阶近似来激励卷积结构的选择。我们的模型在图边的数量上线性伸缩，并学习对局部图结构和节点特征进行编码的隐藏层表示。1 简介我们考虑在图中对节点进行分类的问题，其中有标

2022-04-11 17:04:14 1459

原创论文阅读：在Stiefel流形上的黎曼优化

原文：EFFICIENT RIEMANNIAN OPTIMIZATION ON THE STIEFEL MANIFOLD VIA THE CAYLEY TRANSFORMCiting:https://arxiv.org/pdf/2002.01113.pdfhttps://arxiv.org/pdf/2002.01113.pdf摘要在参数矩阵上严格执行正交约束在深度学习中显示出了优势。这相当于Stiefel流形上的黎曼优化，但是计算成本很高。我们提出了两个主要贡献：（1）基于迭代Cayley变..

2022-03-22 14:58:30 5833 2

原创（论文阅读笔记）Data2vec: A General Framework for Self-supervised Learning in Speech, Vision and Language

(论文阅读笔记：语音、视觉和语言自我监督学习的一般框架，MetaAI

2022-01-23 13:00:31 4463

原创（论文阅读笔记）OLE：正交低秩嵌入，即插即用的几何损失

论文阅读笔记：OLE: Orthogonal Low-rank Embedding, A Plug and Play Geometric Loss for Deep Learning摘要简介Cite as: J. Lezama, Q. Qiu, P. Muse, and G. Sapiro. Ole: Orthogonal low-rank embedding - a plug and play geometric loss for deep learning. In Proceedings of I

2021-12-23 00:37:52 2466

原创论文阅读笔记：为什么深度神经网络的训练无论多少次迭代永远有效？可能类内分布已经坍缩为一个点，模型已经崩溃为线性分类器

论文阅读笔记：Prevalence of neural collapse during the terminalphase of deep learning training，深度学习训练末期普遍的神经网络崩溃现象重要性摘要简介美国科学院的一篇在审论文@article {Papyan24652,author = {Papyan, Vardan and Han, X. Y. and Donoho, David L.},title = {Prevalence of neural collapse d

2021-11-24 19:31:03 2762

原创子空间聚类的常见评估指标及pytorch实现

论文阅读笔记：子空间聚类的常见评估指标：ACC,SRE和CONN引言Evaluation Metrics聚类准确度（Clustering accuracy, ACC）子空间保持误差（SRE）连通性（Connectivity, CONN）本文参考了本组的论文S3C-OMP的附录，代码部分摘自本组的SENet，未引用这两篇论文的转载是不被允许的。引言在评估聚类效果的时候，常常使用NMI和ARI，即归一化互信息和调整兰德指数，但这两个指标是以结果为导向的，无论采用了何种聚类方式。但NMI和ARI只

2021-11-23 20:27:40 3860 9

原创论文阅读笔记：Masked Autoencoders Are Scalable Vision Learners

论文阅读笔记：Spectral Ensemble ClusteringarXiv:2111.06377v1Author: Kaiming He; Xinlei Chen, Saining Xie, Yanghao Li, Piotr Dollar, Ross Girshick

2021-11-16 18:52:22 9577

原创论文阅读笔记：Patches Are All You Need?

论文阅读笔记：Patches Are All You Need?摘要1 简介ICLR2022中正在openreview中的论文https://openreview.net/pdf?id=TVHS5Y4dNvMOpensource: https://github.com/tmp-iclr/convmixer.摘要尽管CNN多年来一直是视觉任务的主导架构，但最近的实验表明，基于Transformer的模型，尤其是ViT，在某些环境下可能超过其性能。然而，由于Transformer中Self-a

2021-11-14 22:08:40 4767

原创论文阅读笔记：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

论文阅读笔记：Swin Transformer摘要1 简介Author: Yue Cao et.al.Translate from: arXiv:2103.14030v2Cite as: Liu, Z., Lin, Y., Cao, Y., Hu, H., Wei, Y., Zhang, Z., Lin, S.C., & Guo, B. (2021). Swin Transformer: Hierarchical Vision Transformer using Shifted Windo

2021-10-27 23:16:11 686

原创论文阅读笔记：A CRITIQUE OF SELF-EXPRESSIVE DEEP SUBSPACE CLUSTERING，自表达深度子空间聚类批判

论文阅读笔记：自表达深度空间聚类批判摘要作者 Chong You et.al.摘要子空间聚类是一种无监督聚类技术，旨在对线性子空间并支持的数据进行聚类，每个子空间定义一个维度低于环境空间的聚类。该问题的许多现有公式基于线性子空间的自表达性质，其中子空间内的任何点都可以表示为子空间内其他点的线性组合。为了将此方法扩展到非线性流形并集上支持的数据，许多研究建议使用神经网络学习原始数据的适当内核嵌入，通过对嵌入空间中的数据使用自表达损失函数对其进行正则化，以鼓励线性子空间在嵌入空间中的数据之前进行并集

2021-10-26 23:02:29 921

原创论文阅读笔记：Neural Manifold Clustering And Embedding

论文阅读笔记：Neural Manifold Clustering And Embedding摘要1 简介摘要给定一个非线性流形的并集，非线性子空间聚类或流形聚类的目的是基于流形结构对数据点进行聚类，并学习将每个流形参数化为特征空间中的线性子空间。深度神经网络由于其巨大的容量和灵活性，在高度非线性的环境下具有实现这一目标的潜力。我们认为，利用神经网络实现流形聚类需要两个基本要素：确保流形识别领域的特定约束将每个流形embedding到特征空间中线性子空间的学习算法这项工作表明，许多约束可以通

2021-10-24 20:39:12 1200

原创论文阅读笔记：Attention: Self-Expression Is All You Need

论文阅读笔记：Attention: Self-Expression Is All You Need摘要简介正在双盲审中的ICLR 2022论文摘要Transformer模型令人惊喜地同时在NLP和CV领域的各种学习任务中出色表现。Transformer的成功很大程度上归功于attention层的使用，该层通过注意力系数捕获数据token（如单词和图像块）之间的远程联系，注意力系数是全局的，并在测试时适应输入数据。在本文中，我们研究了注意力背后的原理及其与现有技术的联系。具体地说，我们证明了att

2021-10-17 22:06:26 1034

原创论文阅读笔记：SCAN: Learning to Classify Images without Labels

论文阅读笔记：SCAN: Learning to Classify Images without Labels摘要简介和相关工作摘要当ground-truth缺席时，我们能自动将图像分组成语义上有意义的聚类吗？在本文中，我们跳脱出最近的工作，而提倡一种两步方法——将特征学习和聚类解耦。首先，利用表征学习中的自监督任务获得语义上有意义的特征。其次，我们使用获得的特征作为先验知识，采用可学习的聚类方法。通过这样做，我们消除了学习依赖于（当前端到端学习方法中广泛存在的）低级特征的能力。简介和相关工作在

2021-10-12 16:11:52 3113

原创论文阅读笔记：Not Too Deep Clustering via Clustering the Local Manifold of an Autoencoded Embedding

论文阅读笔记：Not Too Deep Clustering via Clustering the Local Manifold of an Autoencoded Embedding, 对自动编码embedding的局部流形进行（没那么深的）深度聚类摘要简介摘要深度聚类算法通常将表示学习与深度神经网络相结合，优化聚类和非聚类损失。在这种情况下，自动编码器通常与聚类网络连接并共同学习。相反，我们建议学习自动编码嵌入，然后进一步搜索底层流形。为简单起见，我们随后使用浅层聚类算法对其进行聚类，而不是使用更

2021-09-28 15:52:28 373

原创论文阅读笔记：Learning Self-Expression Metrics for Scalable and Inductive Subspace Clustering

论文阅读笔记：Learning Self-Expression Metrics for Scalable and Inductive Subspace Clustering摘要简介孪生子空间聚类网络实验摘要自表达特性的方法特别成功，但有两个主要缺点：直接学习二次方的系数矩阵，难以扩展到大型数据集。其次，经过训练的模型是传递的，不能从训练过程中看不到的样本数据进行聚类（直接计算，无法对同分布数据进行泛化）。我们提出了一种新的度量学习方法，使用孪生（Siamese）神经网络结构来学习亲和函数，而不是直接学

2021-09-27 17:17:45 366

原创论文阅读笔记(18):Graph Convolutional Subspace Clustering，图卷积子空间聚类

论文阅读笔记（18）：Graph Convolutional Subspace Clustering: A Robust Subspace Clustering Framework for Hyperspectral Image摘要简介摘要高光谱（HSI）图像聚类是一项具有挑战性的任务。子空间聚类已被证明是利用数据点之间的内在关系的强大工具。在本文中，我们重新研究了图卷积子空间聚类，提出了一种新的子空间聚类框架，称为图卷积子空间聚类（GCSC），用于鲁棒HSI聚类。具体地说，该框架将数据的自表达特性重

2021-09-14 09:59:33 1306

原创论文阅读笔记（17）：GAN-based Enhanced Deep Subspace Clustering Networks，基于GAN的增强深度子空间聚类网络

论文阅读笔记（17）：GAN-based Enhanced Deep Subspace Clustering Networks，基于GAN的增强深度子空间聚类网络摘要介绍摘要在本文中，我们提出了两种基于GAN的深子空间聚类方法：基于对偶对抗生成（dual adversarial generative）网络的深度子空间聚类（DSC-DAG）和基于对抗生成网络的自监督深度子空间聚类（S2^22DSC-AG）。在DSC-DAG中，通过对抗训练同时学习输入和相应潜在表征的分布。此外，有两种合成表示有助于编码器

2021-09-02 22:47:29 1142

原创论文阅读笔记（16.append）—— 附录详解：Doubly Stochastic Subspace Clustering

论文阅读笔记（16.append）：附录详解：双重随机子空间聚类附录A： A-DSSC (序列近似双重随机子空间聚类)A.1 A-DSSC对偶问题的梯度A.2 有效集方法A.3 支撑集初始化A.4 自表示的计算附录B： J-DSSC (联合学习双重随机子空间聚类)参考我的上一篇博客，本文为对appendix部分的细读：论文阅读笔记（16）：Doubly Stochastic Subspace Clustering，双重随机子空间聚类附录A： A-DSSC (序列近似双重随机子空间聚类)A.1

2021-08-30 11:26:46 256

原创论文阅读笔记（16）：Doubly Stochastic Subspace Clustering，双重随机子空间聚类

论文阅读笔记（16）：Doubly Stochastic Subspace Clustering，双重随机子空间聚类摘要摘要最先进的子空间聚类方法遵循两步过程，首先在数据点之间构建affinity矩阵，然后将谱聚类应用于该矩阵。对这些方法的大多数研究集中在产生affinity的第一步，这通常利用线性子空间的自表达特性，很少考虑产生最终的谱聚类步骤。此外，现有方法通常通过将特定或任意选择的后期处理步骤应用于自表达模型生成的affinity来获得谱聚类步骤中使用的最终affinity矩阵，这可能对整体聚类

2021-08-27 18:15:10 985 4

原创论文阅读笔记（15）：Deep Subspace Clustering with Data Augmentation，深度子空间聚类+数据增强

论文阅读笔记（15）：Deep Subspace Clustering with Data Augmentation，深度子空间聚类+数据增强摘要1 介绍2020年的NerualPS收录文章开源代码：https://github.com/mahdiabavisani/DSCwithDA.git.摘要数据增强技术背后的想法是基于这样一个事实：感知的细微变化不会改变大脑的认知。在分类中，神经网络利用这一事实，通过对输入进行变换来学习预测相同的标签。然而，在深子空间聚类（DSC）中，groud-tr

2021-08-25 17:33:40 1723 4

原创论文阅读笔记（14）：DEEP NETWORKS FROM THE PRINCIPLE OF RATE REDUCTION, 从率下降原理看深度网络

论文阅读笔记（14）：DEEP NETWORKS FROM THE PRINCIPLE OF RATE REDUCTION，从率下降原理看深度网络1 介绍和动机2 技术实现2.1 率下降和群不变性（group invariance）原理2.1.1 最大编码率下降（Maximal Coding Rate Reduction）2.1.2 群不变性率下降（Group Invariant Rate Reduction）2.2 从最优化率下降角度看深度网络2.2.1 在训练数据时率下降的梯度上升法读马毅老师和由

2021-08-21 23:16:26 908

原创论文阅读笔记（13）：Deep Comprehensive Correlation Mining for Image Clustering，用于图像聚类的深度综合相关性挖掘

论文阅读笔记（13）：Deep Comprehensive Correlation Mining for Image Clustering，用于图像聚类的深度综合相关性挖掘摘要1 介绍1.1 现状1.2 方法介绍1.3 本文贡献来自ICCV2019的论文，源码: https://github.com/Cory-M/DCCM摘要最近发展的深度无监督方法允许我们共同学习表示和聚类未标记的数据。这些深度聚类方法主要关注样本之间的相关性，例如，选择高精度对来逐步调整特征表示，而忽略了其他有用的相关性。在

2021-08-17 23:03:55 1167 2

原创论文阅读笔记（12）：Deep Clustering for Unsupervised Learning of Visual Features, 基于深度聚类的视觉特征无监督学习

论文阅读笔记（12）：Deep Clustering for Unsupervised Learning of Visual Features, 基于深度聚类的视觉特征无监督学习摘要介绍方法准备工作facebook AI实验室19年的论文，deep cluster的基础摘要聚类是一类无监督学习方法，在计算机视觉中得到了广泛的应用和研究。为了使其适应大规模数据集上视觉特征的端到端训练，几乎没有做过什么工作。在这项工作中，我们提出了Deep Cluster，一种联合学习神经网络参数和结果特征的聚类分

2021-08-17 12:09:54 912

原创论文阅读笔记（11）：Adaptive Self-Paced Deep Clustering with Data Augmentation，用数据增强的自适应Self-Paced深度聚类

论文阅读笔记（11）：Adaptive Self-Paced Deep Clustering with Data Augmentation，用数据增强的自适应Self-Paced深度聚类摘要摘要深度聚类通过联合执行特征学习和聚类分割，获得了比传统聚类更好的性能。尽管许多深度聚类算法已经出现在各种应用中，但大多数算法都无法学习到健壮的面向聚类的特征，这反过来又会影响最终的聚类性能。为了解决这个问题，我们提出了一种两阶段的深度聚类算法，该算法结合了数据增强和自步学习(self-paced learning

2021-08-14 23:28:48 1374 1

原创论文阅读笔记(10)：A Simple Framework for Contrastive Learning of Visual Representations，用对比学习进行视觉表征的简单框架

论文阅读笔记（10）：A Simple Framework for Contrastive Learning of Visual Representations，用对比学习进行视觉表达的简单框架摘要简介方法对比学习框架摘要本文介绍了SimCLR：一个简单的视觉表征对比学习框架。我们简化了最近提出的自监督对比学习算法，而不需要专门的体系结构或内存库。为了理解是什么使对比预测任务能够学习有用的表征，我们系统地研究了框架的主要组成部分。我们发现：（1）数据augmentation的组合在定义有效的预测任务

2021-08-13 13:18:11 2462

翻译论文阅读笔记（9）：加权稀疏子空间表示——子空间聚类、约束聚类和主动学习的统一框架

论文阅读笔记（9）：WEIGHTED SPARSE SUBSPACE REPRESENTATION——A UNIFIED FRAMEWORK FOR SUBSPACE CLUSTERING, CONSTRAINED CLUSTERING, AND ACTIVE LEARNING，加权稀疏子空间表示——子空间聚类、约束聚类和主动学习的统一框架摘要加权稀疏子空间表示——子空间聚类、约束聚类和主动学习的统一框架摘要在这项工作中，我们首先提出了一种新的基于谱的子空间聚类算法，该算法试图将每个点表示为几个相

2021-08-11 17:28:33 1490

原创论文阅读笔记（8）：Structured Sparse Subspace Clustering: A Joint Affinity Learning and Subspace Clustering

论文阅读笔记（8）：Structured Sparse Subspace Clustering: A Joint Affinity Learning and Subspace Clustering Framework，结构化稀疏子空间聚类：一种联合affinity和子空间聚类框架介绍介绍在本文中，我们试图将这两个独立的阶段整合到一个统一的优化框架中。一个重要的观察结果是：最佳的子空间聚类通常从次优的affinity矩阵得到。换句话说，谱聚类步骤可以纠正affinity矩阵中的错误，并可以看作是通过去噪

2021-08-09 21:27:05 694

空空如也

空空如也