论文笔记：Deep Embedded Clustering with Data Augmentation

最新推荐文章于 2025-03-27 09:00:00 发布
最新推荐文章于 2025-03-27 09:00:00 发布
阅读量1.1k 收藏 1
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/GYY8023/article/details/104627717
版权

Deep Embedded Clustering with Data Augmentation

1 摘要

文章讲数据增量引入深度嵌入聚类中，提出deep Embedded Clustering with Data Augmentation (DEC-DA)。
首先，用一组增广数据训练一个自动编码器来构造初始特征空间。
然后对嵌入的特征进行聚类损失约束，进一步学习面向聚类的特征。聚类损失由目标（伪标签）和特征学习模型的实际输出组成，
其中目标通过使用非增强数据计算，输出通过增强数据计算。这类似于带数据增强的有监督训练，并期望有助于无监督聚类。

^_^linger^_^
关注
文献阅读(part1)--A Survey of Clustering With Deep Learning From the Perspective of Network Architecture
小山羊的学习日志
10-11 735
论文学习 文章目录摘要介绍前言NEURAL NETWORK ARCHITECTURE FOR DEEP CLUSTERINGLOSS FUNCTIONS RELATED TO CLUSTERINGPERFORMANCE EVALUATION METRICS FOR DEEP CLUSTERINGCDNN-BASED DEEP CLUSTERINGVAE-BASED DEEP CLUSTERINGGAN-BASED DEEP CLUSTERING不同类别深度聚类算法的比较未来的机遇和结论 摘要 Clust
【论文笔记】迁移自适应学习综述
weixin_30480651的博客
03-28 4242
论文题目：《Transfer Adaptation Learning: A Decade Survey》 论文作者：Lei Zhang 论文链接：http://cn.arxiv.org/pdf/1903.04687.pdf 介绍 在很多实际的情况中, 源域(source domain)和目标域(target domain)之间存在： 分布不匹配(distribution mismatch) 领...
论文笔记-DEC (Deep Embedded Clustering)
weixin_45739483的博客
11-08 2726
论文笔记-DEC (Deep Embedded Clustering）知识点1.将聚类的度量参考T-SNE中的t-分布，将聚类的度量转换成一个概率值（软分配，qij 表示将样本 i 分配给 j 簇的概率）：知识2. 作者定义一个辅助分布 p ，通过KL散度衡量 p 和 q 两个分布构造损失函数L 论文原文：http://proceedings.mlr.press/v48/xieb16.pdf 知识点1.将聚类的度量参考T-SNE中的t-分布，将聚类的度量转换成一个概率值（软分配，qij 表示将样本 i 分配
Deep Embedded Clustering with Asymmetric Residual Autoencoder
qq_44944580的博客
10-09 568
出于为了解决AE中的梯度消失，是否可以使用残差网络或者dense net解决的心态，我搜到了这篇文章Deep Embedded Clustering with Asymmetric Residual Autoencoder。 本文的亮点： 使用了一个非对称的、残差的autoencoder来训练样本； 将clustering融合入模型，解决end-to-end问题； 非对称训练得到的AE更加适合clustering； 因为将模型融合，导致AE的训练存在一些constraint（满足clu.
【聚类算法解析系列07】聚类与深度学习的结合——深度嵌入聚类（DEC）
最新发布
熵数实验室
03-27 1237
数据本质是连续流形上的概率分布，而非离散样本点的集合——这正暗合了爱因斯坦"场论"对经典力学的超越。在20量子位系统中，MNIST分类准确率达85%，耗时仅经典DEC的1/1000。其中系数比( \alpha:\beta:\gamma )决定优化轨迹的相变路径。：BraTS 2023脑肿瘤数据集（3D MRI，4模态）在100家医院联合训练中，模型AUC提升12%，数据不出域。在8xA100集群上，训练速度提升6.8倍。模型体积缩小至1/4，推理延迟降低至8ms。
DEC-DA：Deep Embedded Clustering with Data Augmentation
GYY8023的博客
04-06 1855
Deep Embedded Clustering with Data Augmentation1 摘要2 介绍3 相关工作3.1 Denoising Autoencoder3.2 Deep Embedded Clustering4 DEC_DA5 实验测试6 参考文献 1 摘要 DEC忽视了关键成分：数据增量， 它被广泛应用于监督深度学习模型中，以提高泛化能力。因此，本文提出带有数据增量的深度嵌入...
探索无监督聚类新境界：深度嵌入聚类（Deep Embedding Clustering, DEC）
gitblog_00562的博客
08-24 1084
探索无监督聚类新境界：深度嵌入聚类（Deep Embedding Clustering, DEC） DEC-kerasKeras implementation for Deep Embedding Clustering (DEC)项目地址:https://gitcode.com/gh_mirrors/de/DEC-keras 随着机器学习和深度学习的飞速发展，如何在无需标签数据的情况下高效地进行...
Deep embedding network for clustering论文笔记
昼
11-28 2396
Deep embedding network for clustering论文笔记网络结构 论文笔记 网络结构
论文阅读：ZINB-Based Graph Embedding Autoencoder for Single-Cell RNA-Seq Interpretations
dundunmm的博客
04-29 1766
单细胞RNA测序（scRNA-seq）可以在单细胞水平上提供基因组范围内的基因表达水平的高通量信息，从而精确了解单个细胞的转录组信息。不幸的是，快速增长的单细胞RNA测序数据以及普遍存在的细胞丢失事件给细胞类型注释带来了巨大的挑战。本文提出一种基于单细胞模型的深度图嵌入聚类（scTAG）方法，它基于深度图卷积神经网络同时学习细胞间拓扑结构表示并识别细胞簇。
各种深度聚类方法摘要
ddana_a的博客
08-05 7158
Spectral Clustering with Graph Neural Networks for Graph Pooling 频谱聚类（SC）是一种流行的聚类技术，用于在图形上查找强连接的社区。 SC可以在图形神经网络（GNN）中使用，以实现汇总属于同一群集的节点的池化操作。但是，拉普拉斯算子的特征分解是昂贵的，并且由于聚类结果是特定于图的，因此基于SC的合并方法必须为每个新样本执行新的优化。在本文中，我们提出了一种图聚类方法来解决SC的这些局限性。我们制定了标准化minCUT问题的连续松弛，并训练了G
【点云系列】综述： Deep Learning for 3D Point Clouds: A Survey
weixin_43882112的博客
12-03 5523
文章目录摘要简介：2 背景2.1 数据集2.2 衡量指标3 3D形状分类3.1基于多视角的方法3.2基于体素的方法3.3 基于点的方法3.3.1逐点MLP网络3.3.2基于卷积的网络3.3.3基于图的网络3.3.4基于数据索引的方法3.3.5其他方法小结4 3D物体检测与跟踪4.1 3D物体检测4.1.1 基于候选区域的方法4.1.2 single-shot方法4.2 3D对象跟踪4.3 3D场景流估计4.4 小结：5 3D点云分割5.1 3D 语义分割5.1.1 基于投影的方法5.1.2 基于离散的方法5
Deep-Clustering-Network:PyTorch实施“迈向k均值友好空间”
05-28
DCN：深度群集网络 我发现深度集群网络（DCN）的官方实现已过时（ ）。 此存储库是使用PyTorch的DCN的重新实现。 介绍 一项有趣的工作，使用神经网络自动编码器共同执行无监督的降维和聚类。 怎么跑 在这里，我提供了一个关于在MNIST数据集上训练DCN的演示（对应于原始论文的5.2.5节）。 要运行此演示，只需键入以下命令： python mnist.py 致谢 对于感兴趣的任何人，您也可以参考GüntherEder的实现： : ，其中包含有关可重复性的更多详细信息。 实验 我在MNIST数据集上训练了DCN模型，并在论文中将诸如网络结构之类的超参数设置为值。 左图显示了在预训练阶段自动编码器的重构误差，右图显示了训练阶段在NMI和ARI（本文中使用的两个度量）方面的变化。 我得到的最佳NMI结果约为0.65。 包依赖 scikit-lean = = 0.23.1 p
论文笔记：Unsupervised Deep Embedding for Clustering Analysis
qq_44015059的博客
06-10 3944
前言 转载自：https://blog.csdn.net/SCS199411/article/details/90759274 至今已有许多工作致力于距离函数与嵌入方法的研究，用于执行聚类的特征空间无监督学习的的研究工作还比较少。对于所有最简单的图像数据集，使用欧氏距离的聚类完全失效。本文希望找到一种方案，可以联合解决特征空间学习与聚类关系判别。 基于此本文提出了一种深度嵌入聚类方法(Deep embedded clustering) 论文链接：https://arxiv.org/abs/1511.0633
【文献阅读笔记】Unsupervised Deep Embedding for Clustering Analysis
weixin_42949680的博客
01-11 1427
Unsupervised Deep Embedding for Clustering Analysis论文笔记，如有错误欢迎评论指正
DEC(Deep Embedded Cluster)小结
AndyViky的博客
06-30 7140
Deep Embedded Cluster References: https://zhuanlan.zhihu.com/p/50365577 https://flashgene.com/archives/7798.html https://zhuanlan.zhihu.com/p/28967965 http://proceedings.mlr.press/v48/xieb16.pdf
探索未知：深度嵌入聚类IDEC
gitblog_00066的博客
06-12 762
探索未知：深度嵌入聚类IDEC 去发现同类优质开源项目:https://gitcode.com/ 项目介绍 在数据挖掘和机器学习的世界中，无监督学习是一个充满挑战的领域，其中深度嵌入聚类（Deep Embedded Clustering, DEC）和其改进版本Improved DEC（IDEC）是近年来的重要研究进展。这个开源项目提供了在Keras框架下的IDEC实现，基于2017年IJCAI会议...
深度嵌入聚类 DEC 总结
Avery123123的博客
11-21 6765
Deep Embedded Cluster 概述 动机 贡献 过程 概述 软分配 目标分布（辅助分布） 最小化KL散度（目标函数） 结构图 实现
论文笔记：Improved Deep Embedded Clustering with Local Structure Preservation
GYY8023的博客
03-03 2140
Improved Deep Embedded Clustering with Local Structure Preservation 1 摘要 2 研究方法 3 实验测试 4 参考文献
自监督学习（五）Unsupervised Deep Embedding for Clustering Analysis
weixin_47444348的博客
05-04 4610
Unsupervised Deep Embedding for Clustering Analysis
SimCLR实现聚类
01-01
### SimCLR 实现用于深度学习中的聚类 SimCLR 是一种对比学习框架，旨在无监督方式下学习视觉表征。通过最大化不同图像增广视图之间的互信息，SimCLR 能够捕捉数据的本质特征并生成强大的表征向量[^1]。 对于聚类应用而言，在完成预训练阶段之后，可以通过冻结基础编码器网络参数，并在其顶部附加一个轻量级分类头来进行下游任务的学习。具体实现流程如下： #### 数据准备与增强 为了确保模型能够学到鲁棒且具有区分力的特征，需要对输入样本实施一系列随机变换操作，如裁剪、翻转、颜色抖动等。这些处理有助于增加正样本对间的差异性，从而促使模型聚焦于更深层次的内容理解而非表面统计特性。 ```python import tensorflow as tf from tensorflow.keras import layers, models def create_data_augmentation_pipeline(): data_augmentation = tf.keras.Sequential([ layers.RandomFlip("horizontal"), layers.RandomRotation(0.2), layers.RandomContrast(factor=0.5) ]) return data_augmentation ``` #### 构建SimCLR架构 构建双塔结构——两个分支共享相同的骨干网络权重，分别接收同一张原始图片的不同版本作为输入。经过投影头部转换后的输出会被送入损失函数计算部分以评估相似度得分。 ```python class SimCLRLoss(tf.keras.Model): def __init__(self, temperature=0.5): super(SimCLRLoss, self).__init__() self.temperature = temperature def call(self, z_i, z_j): batch_size = tf.shape(z_i)[0] # Normalize the representations along the feature dimension. zi_norm = tf.math.l2_normalize(z_i, axis=-1) zj_norm = tf.math.l2_normalize(z_j, axis=-1) logits_ii = tf.matmul(zi_norm, zi_norm, transpose_b=True) / self.temperature logits_ij = tf.matmul(zi_norm, zj_norm, transpose_b=True) / self.temperature labels = tf.range(batch_size) loss_a = tf.nn.sparse_softmax_cross_entropy_with_logits(labels, logits_ij) loss_b = tf.nn.sparse_softmax_cross_entropy_with_logits(labels, tf.transpose(logits_ij)) total_loss = tf.reduce_mean(loss_a + loss_b) return total_loss ``` #### 应用至聚类场景 当希望利用上述获得的良好初始化状态执行聚类任务时，则可以在微调过程中采用诸如 KMeans 或者 Gaussian Mixture Model 等传统方法直接作用于提取出来的特征空间上；也可以进一步设计端到端可导的形式，比如 DEC（Deep Embedded Clustering），即先让神经网络收敛后再逐步调整目标分布直至稳定下来。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值