论文笔记-DEC (Deep Embedded Clustering)

最新推荐文章于 2025-05-13 20:10:53 发布
最新推荐文章于 2025-05-13 20:10:53 发布
阅读量2.7k 收藏 6
点赞数 2
文章标签： 聚类 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45739483/article/details/121216013
版权
本文介绍了DEC（Deep Embedded Clustering）方法，该方法借鉴T-SNE的t-分布，将聚类度量转化为概率值。文章讨论了如何定义辅助分布p，并通过KL散度来构建损失函数L，以衡量p与q分布之间的差异。作者考虑了强化预测、置信度和聚类中心损失平衡等因素。DEC通过反向传播更新网络和聚类中心，当q分布变化极小即停止学习。参考论文链接及实现代码可供进一步研究。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

论文笔记-DEC (Deep Embedded Clustering）

论文原文：http://proceedings.mlr.press/v48/xieb16.pdf

知识点1.将聚类的度量参考T-SNE中的t-分布，将聚类的度量转换成一个概率值（软分配，qij 表示将样本 i 分配给 j 簇的概率）：

在这里插入图片描述
i 表示第 i 个样本，j 表示 第 j 类聚类中心。z表示数据原始特征分布经过Encoder之后的表征空间。

知识2. 作者定义一个辅助分布 p ，通过KL散度衡量 p 和 q 两个分布构造损失函数L

（同时也是该文的亮点）
在这里插入图片描述
在这里插入图片描述
作者的论文中考虑一下三点构造出p:

1.强化预测。q分布为软分配的概率，那么p如果使用delta分布来表示，显得比较原始。
2.置信度越高，属于某个聚类概率越大。
3.规范每个质心的损失贡献，以防止

最低0.47元/天 解锁文章
Zyy99123
关注
【论文笔记】Unsupervised Deep Embedding for Clustering Analysis（DEC）
qq_44055705的博客
04-02 4975
【论文笔记】Unsupervised Deep Embedding for Clustering Analysis（DEC） 文章题目：Unsupervised Deep Embedding for Clustering Analysis 作者：Junyuan Xie，Ross Girshick，Ali Farhadi 关键词： 时间：2016 来源：ICML paper：http://proceedings.mlr.press/v48/xieb16.html , https://arxiv.org/pd
DEC(Deep Embedded Cluster)小结
AndyViky的博客
06-30 7111
Deep Embedded Cluster References: https://zhuanlan.zhihu.com/p/50365577 https://flashgene.com/archives/7798.html https://zhuanlan.zhihu.com/p/28967965 http://proceedings.mlr.press/v48/xieb16.pdf
【聚类算法解析系列07】聚类与深度学习的结合——深度嵌入聚类（DEC）
熵数实验室
03-27 1189
数据本质是连续流形上的概率分布，而非离散样本点的集合——这正暗合了爱因斯坦"场论"对经典力学的超越。在20量子位系统中，MNIST分类准确率达85%，耗时仅经典DEC的1/1000。其中系数比( \alpha:\beta:\gamma )决定优化轨迹的相变路径。：BraTS 2023脑肿瘤数据集（3D MRI，4模态）在100家医院联合训练中，模型AUC提升12%，数据不出域。在8xA100集群上，训练速度提升6.8倍。模型体积缩小至1/4，推理延迟降低至8ms。
Deep Embedded Clustering with Asymmetric Residual Autoencoder
qq_44944580的博客
10-09 559
出于为了解决AE中的梯度消失，是否可以使用残差网络或者dense net解决的心态，我搜到了这篇文章Deep Embedded Clustering with Asymmetric Residual Autoencoder。 本文的亮点： 使用了一个非对称的、残差的autoencoder来训练样本； 将clustering融合入模型，解决end-to-end问题； 非对称训练得到的AE更加适合clustering； 因为将模型融合，导致AE的训练存在一些constraint（满足clu.
探索无监督聚类新境界：深度嵌入聚类（Deep Embedding Clustering, DEC）
gitblog_00562的博客
08-24 1051
探索无监督聚类新境界：深度嵌入聚类（Deep Embedding Clustering, DEC） DEC-kerasKeras implementation for Deep Embedding Clustering (DEC)项目地址:https://gitcode.com/gh_mirrors/de/DEC-keras 随着机器学习和深度学习的飞速发展，如何在无需标签数据的情况下高效地进行...
DEC-DA：Deep Embedded Clustering with Data Augmentation
GYY8023的博客
04-06 1850
Deep Embedded Clustering with Data Augmentation1 摘要2 介绍3 相关工作3.1 Denoising Autoencoder3.2 Deep Embedded Clustering4 DEC_DA5 实验测试6 参考文献 1 摘要 DEC忽视了关键成分：数据增量， 它被广泛应用于监督深度学习模型中，以提高泛化能力。因此，本文提出带有数据增量的深度嵌入...
【文献阅读笔记】Unsupervised Deep Embedding for Clustering Analysis
weixin_42949680的博客
01-11 1415
Unsupervised Deep Embedding for Clustering Analysis论文笔记，如有错误欢迎评论指正
【论文阅读】Dip-based Deep Embedded Clustering with k-Estimation
最新发布
dundunmm的博客
05-13 1330
本文提出了一种新颖的深度聚类算法DipDECK，该算法结合了自编码器和Dip检验，能够在优化聚类目标的同时自动估计聚类数量，且不依赖于传统的球形分布假设。DipDECK通过在嵌入空间中高估聚类数，并利用Dip检验识别结构相似的聚类进行合并，从而实现对复杂数据集的灵活聚类。实验结果表明，DipDECK在聚类效果、参数不敏感性和聚类数量估计方面均优于现有方法，为处理高维大数据提供了一种有效的解决方案。
【神经网络】自编码聚类算法--DEC (Deep Embedded Clustering)
weixin_30883271的博客
10-21 2894
1.算法描述 最近在做AutoEncoder的一些探索，看到2016年的一篇论文，虽然不是最新的，但是思路和方法值得学习。论文原文链接http://proceedings.mlr.press/v48/xieb16.pdf，论文有感于t-SNE算法的t-分布，先假设初始化K个聚类中心，然后数据距离中心的距离满足t-分布，可以用下面的公式表示: 其中 i表示第i样本,j表示第j个...
acc定义代码 神经网络_【神经网络】自编码聚类算法--DEC (Deep Embedded Clustering)
weixin_42137028的博客
01-12 1459
1.算法描述最近在做AutoEncoder的一些探索，看到2016年的一篇论文，虽然不是最新的，但是思路和方法值得学习。论文原文链接http://proceedings.mlr.press/v48/xieb16.pdf，论文有感于t-SNE算法的t-分布，先假设初始化K个聚类中心，然后数据距离中心的距离满足t-分布，可以用下面的公式表示:其中 i表示第i样本,j表示第j个聚类中心, z表示原始特...
论文笔记：Deep Embedded Clustering with Data Augmentation
GYY8023的博客
03-03 1116
Deep Embedded Clustering with Data Augmentation 1 摘要 文章讲数据增量引入深度嵌入聚类中，提出deep Embedded Clustering with Data Augmentation (DEC-DA)。 首先，用一组增广数据训练一个自动编码器来构造初始特征空间。 然后对嵌入的特征进行聚类损失约束，进一步学习面向聚类的特征。聚类损失由目标（伪标...
论DEC＜Deep Embedded Clustering＞的由来
小海鲜的博客
08-03 625
一、SNE-（不稳定的）非监督降维 二、Symmetric SNE - 解决缺点1 三、t-SNE- 解决缺点2 四、DEC 参考： http://www.datakit.cn/blog/2017/02/05/t_sne_full.html https://zhuanlan.zhihu.com/p/53432553 1 https://zhuanlan.zhihu.com/p/50365577 2 https://zhuanlan.zhihu.com/p/44808113 https://zhu
Deep Embedded Clustering (DEC) 项目教程
gitblog_00443的博客
10-11 773
Deep Embedded Clustering (DEC) 项目教程 dec 项目地址: https://gitcode.com/gh_mirrors/de/dec 1....
SDEC: Semi-supervised deep embedded clustering
qq_43354047的博客
03-22 993
半监督 + DEC，与DEC不同的是，对节点对实施限制，从而减小类内聚类，增加类间距离。 文章：文章链接 代码：代码的Keras实现 半监督聚类 聚类问题本是无监督问题，而半监督聚类算法的监督信息来自哪里呢？来自节点之间是否有连边。有的节点一定属于同一类，而有的节点一定不属于同一类。 第一篇半监督深度聚类文章：Deep transductive semi-supervised maximum margin clustering 模型 pretrain：SAE，每一层是降噪自编码器 initializati
Deep embedding network for clustering论文笔记
昼
11-28 2393
Deep embedding network for clustering论文笔记网络结构 论文笔记 网络结构
DEC：Unsupervised Deep Embedding for Clustering Analysis
GYY8023的博客
02-27 1319
Unsupervised Deep Embedding for Clustering Analysis 摘要 DEC是一个使用深度神经网络同时学习特征表示和聚类分配的方法。它学习从数据空间到低维特征空间的映射，其中迭代地优化聚类目标。 ...
论文笔记：Unsupervised Deep Embedding for Clustering Analysis
qq_44015059的博客
06-10 3908
前言 转载自：https://blog.csdn.net/SCS199411/article/details/90759274 至今已有许多工作致力于距离函数与嵌入方法的研究，用于执行聚类的特征空间无监督学习的的研究工作还比较少。对于所有最简单的图像数据集，使用欧氏距离的聚类完全失效。本文希望找到一种方案，可以联合解决特征空间学习与聚类关系判别。 基于此本文提出了一种深度嵌入聚类方法(Deep embedded clustering) 论文链接：https://arxiv.org/abs/1511.0633
探索未知：深度嵌入聚类IDEC
gitblog_00066的博客
06-12 722
探索未知：深度嵌入聚类IDEC 去发现同类优质开源项目:https://gitcode.com/ 项目介绍 在数据挖掘和机器学习的世界中，无监督学习是一个充满挑战的领域，其中深度嵌入聚类（Deep Embedded Clustering, DEC）和其改进版本Improved DEC（IDEC）是近年来的重要研究进展。这个开源项目提供了在Keras框架下的IDEC实现，基于2017年IJCAI会议...
深度嵌入聚类 DEC 总结
Avery123123的博客
11-21 6729
Deep Embedded Cluster 概述 动机 贡献 过程 概述 软分配 目标分布（辅助分布） 最小化KL散度（目标函数） 结构图 实现
dec算法在jupyter notebook上实现
03-25
DEC（Deep Embedded Clustering）算法是一种无监督学习算法，用于将数据集进行聚类。在Jupyter Notebook上实现DEC算法可以按照以下步骤进行： 1. 导入所需的库和模块： - 导入numpy库用于数值计算 - 导入tensorflow库用于构建和训练神经网络模型 - 导入sklearn库用于数据预处理和评估聚类结果 2. 加载数据集： - 使用pandas库读取数据集文件，或者使用其他方法加载数据集 3. 数据预处理： - 对数据进行标准化或归一化处理，以确保各个特征具有相同的尺度 - 可以使用sklearn库中的preprocessing模块进行数据预处理 4. 构建DEC模型： - 定义自编码器（Autoencoder）模型，用于学习数据的低维表示 - 定义DEC模型，将自编码器与聚类层结合起来 - 使用tensorflow库构建神经网络模型 5. 训练DEC模型： - 使用无监督学习方法训练DEC模型 - 使用K-means算法对聚类层进行初始化 - 交替进行自编码器的训练和聚类层的更新，直到收敛 6. 评估聚类结果： - 使用sklearn库中的metrics模块计算聚类结果的评估指标，如轮廓系数、互信息等 7. 可视化聚类结果： - 使用matplotlib库或其他可视化工具将聚类结果可视化展示
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值