Deep embedding network for clustering论文笔记

最新推荐文章于 2025-01-26 16:36:27 发布
原创 最新推荐文章于 2025-01-26 16:36:27 发布 · 2.4k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #算法 #聚类

这篇博客是关于Deep embedding network for clustering的论文笔记。网络结构类似于自动编码器，但损失函数由三部分组成：重构误差、局部保持和组稀疏性。局部保持损失确保数据点与其近邻的距离在新空间中最小化，而组稀疏性损失促进隐藏层表达的块对角化，实现组间稀疏性。通过限制玻耳兹曼机进行预训练，以优化网络权重。

Deep embedding network for clustering

论文笔记

网络结构

在这里插入图片描述
和普通autoencoder相似，区别在于损失函数上。

损失函数

损失函数分为三部分，一个是重构误差，和普通的autoencoder一样，就不赘述了；一个用来保持局部分布不变（Locality-preserving）；另外一个使隐层表达变得稀疏(Group Sparsity )。

Locality-preserving

在这里插入图片描述
其中， k （ i ） k（i） k（i）是点 i i i的 k k k个近邻（即knn算出的邻居）， S i j S_{ij} S

最低0.47元/天 解锁文章
【文献阅读笔记】Deep Embedding Network for Clustering
weixin_42949680的博客
01-21 1003
Deep Embedding Network for Clustering
【论文笔记】Unsupervised Deep Embedding for Clustering Analysis（DEC）
qq_44055705的博客
04-02 5258
【论文笔记】Unsupervised Deep Embedding for Clustering Analysis（DEC） 文章题目：Unsupervised Deep Embedding for Clustering Analysis 作者：Junyuan Xie，Ross Girshick，Ali Farhadi 关键词： 时间：2016 来源：ICML paper：http://proceedings.mlr.press/v48/xieb16.html , https://arxiv.org/pd
Deep Embedding Network for Clustering
02-10
Deep Embedding Network for Clustering
论文笔记：Unsupervised Deep Embedding for Clustering Analysis
qq_44015059的博客
06-10 4081
前言 转载自：https://blog.csdn.net/SCS199411/article/details/90759274 至今已有许多工作致力于距离函数与嵌入方法的研究，用于执行聚类的特征空间无监督学习的的研究工作还比较少。对于所有最简单的图像数据集，使用欧氏距离的聚类完全失效。本文希望找到一种方案，可以联合解决特征空间学习与聚类关系判别。 基于此本文提出了一种深度嵌入聚类方法(Deep embedded clustering) 论文链接：https://arxiv.org/abs/1511.0633
Deep Embedded Clustering with Asymmetric Residual Autoencoder
qq_44944580的博客
10-09 602
出于为了解决AE中的梯度消失，是否可以使用残差网络或者dense net解决的心态，我搜到了这篇文章Deep Embedded Clustering with Asymmetric Residual Autoencoder。 本文的亮点： 使用了一个非对称的、残差的autoencoder来训练样本； 将clustering融合入模型，解决end-to-end问题； 非对称训练得到的AE更加适合clustering； 因为将模型融合，导致AE的训练存在一些constraint（满足clu.
[文献阅读] Unsupervised Deep Embedding for Clustering Analysis （DEC）（pytorch复现）
最新发布
weixin_53834244的博客
01-26 2633
无监督的深度嵌入式聚类 Unsupervised Deep Embedding for Clustering Analysis http://arxiv.org/abs/1511.06335为了解决使用Kmeans传统聚类的在高维空间失效的问题，该论文首先提出将KL散度用于聚类损失，并使用这一损失调整一个预训练的编码器（堆叠自编码器DAE）。称为深度嵌入聚类（DEC），这是一种使用深度神经网络同时学习特征表示和聚类分配的方法。为了使KL散度更好应用于聚类任务，文章创设性的设置了KL散度中两个分布，
论文笔记-DEC (Deep Embedded Clustering)
weixin_45739483的博客
11-08 2811
论文笔记-DEC (Deep Embedded Clustering）知识点1.将聚类的度量参考T-SNE中的t-分布，将聚类的度量转换成一个概率值（软分配，qij 表示将样本 i 分配给 j 簇的概率）：知识2. 作者定义一个辅助分布 p ，通过KL散度衡量 p 和 q 两个分布构造损失函数L 论文原文：http://proceedings.mlr.press/v48/xieb16.pdf 知识点1.将聚类的度量参考T-SNE中的t-分布，将聚类的度量转换成一个概率值（软分配，qij 表示将样本 i 分配
DEC-DA：Deep Embedded Clustering with Data Augmentation
GYY8023的博客
04-06 1908
Deep Embedded Clustering with Data Augmentation1 摘要2 介绍3 相关工作3.1 Denoising Autoencoder3.2 Deep Embedded Clustering4 DEC_DA5 实验测试6 参考文献 1 摘要 DEC忽视了关键成分：数据增量， 它被广泛应用于监督深度学习模型中，以提高泛化能力。因此，本文提出带有数据增量的深度嵌入...
《Unsupervised Deep Embedding for Clustering Analysis》论文学习
Weyoung_的博客
03-01 7200
1. Introduction             聚类在无监督机器学习中由这几个方面进行了研究：如何定义一个类？什么是正确的距离矩阵？如何对数据进行有效聚类？如何验证聚类结果？至今已有许多工作致力于距离函数与嵌入方法的研究，用于执行聚类的特征空间无监督学习的的研究工作还比较少。For all but simplest image datasets,使用欧氏距离的聚类完全失效。本文希望找到一种...
探索无监督聚类新境界：深度嵌入聚类（Deep Embedding Clustering, DEC）
gitblog_00562的博客
08-24 1223
探索无监督聚类新境界：深度嵌入聚类（Deep Embedding Clustering, DEC） 随着机器学习和深度学习的飞速发展，如何在无需标签数据的情况下高效地进行数据聚类成为一个炙手可热的研究话题。今天，我们为你介绍一个开创性的开源项目——基于Keras实现的Deep Embedding Clustering(DEC)，该技术源自ICML 2016上发表的一篇论文。 项目介绍 DEC是Ju...
论文笔记：Deep Embedded Clustering with Data Augmentation
GYY8023的博客
03-03 1152
Deep Embedded Clustering with Data Augmentation 1 摘要 文章讲数据增量引入深度嵌入聚类中，提出deep Embedded Clustering with Data Augmentation (DEC-DA)。 首先，用一组增广数据训练一个自动编码器来构造初始特征空间。 然后对嵌入的特征进行聚类损失约束，进一步学习面向聚类的特征。聚类损失由目标（伪标...
【论文笔记】Structural Deep Network Embedding
煎饼加鸡丝
10-30 5058
Structural Deep Network Embedding https://www.kdd.org/kdd2016/papers/files/rfp0191-wangAemb.pdf 本文介绍图嵌入的一种方法——SDNE，用深度神经网络来做图嵌入，以下主要摘录论文以及记录一点个人理解。 摘要 network embedding，是为网络中的节点学习出一个低维表示的方法。 目的在于在低...
【文献阅读笔记】Unsupervised Deep Embedding for Clustering Analysis
weixin_42949680的博客
01-11 1556
Unsupervised Deep Embedding for Clustering Analysis论文笔记，如有错误欢迎评论指正
探索未知：深度嵌入聚类IDEC
gitblog_00066的博客
06-12 878
探索未知：深度嵌入聚类IDEC 去发现同类优质开源项目:https://gitcode.com/ 项目介绍 在数据挖掘和机器学习的世界中，无监督学习是一个充满挑战的领域，其中深度嵌入聚类（Deep Embedded Clustering, DEC）和其改进版本Improved DEC（IDEC）是近年来的重要研究进展。这个开源项目提供了在Keras框架下的IDEC实现，基于2017年IJCAI会议...
深度嵌入（DeepEmbedding）：利用AI进行语义理解的新工具
gitblog_00047的博客
03-31 504
深度嵌入（DeepEmbedding）：利用AI进行语义理解的新工具 项目简介 是一个开源项目，旨在通过深度学习技术将文本转换为向量形式，以便于进行语义分析和相似性比较。该项目由胡登俊开发，采用Python编写，并基于TensorFlow框架实现。它的核心目标是帮助开发者构建能够理解和处理自然语言的智能系统。 技术分析 **1. ** 基于Transformer的预训练模型 ： DeepEmbed...
论文笔记——DynGEM: Deep Embedding Method for Dynamic Graphs
闯入网络安全的数据分析小白
05-13 3594
论文解读——DynGEM: Deep Embedding Method for Dynamic Graphs 论文链接：https://arxiv.org/abs/1805.11273 一. 摘要 大规模图嵌入技术在图可视化、链路预测和节点分类等领域的领域的广泛应用引起了研究者的广泛关注。当前的图嵌入技术主要是处理静态图，然而在实际应用场景中，大部分图数据都是随时间动态演化的。直接对动态图的每个快照应用图嵌入方法无法满足稳定性、灵活性和效率等方面的需求。本质上孤立的考虑各个快照会把相同的节点映.
论文阅读09——《Deep Fusion Clustering Network》
小吴不会敲代码吧
11-22 1801
本文对《Deep Fusion Clustering Network》进行了分析，该方法提出了一个基于相互依赖学习的结构和属性信息融合(SAIF)模块，该模块将自动编码器和图自动编码器学习的表示显式合并，用于一致性表示学习。 针对网络训练，设计了一种可靠的目标分布生成方法和一种便于跨模态信息开发的三重自监督策略。
2016 KDD | SDNE: Structural Deep Network Embedding
发呆的比目鱼的博客
05-14 537
paper: https://www.kdd.org/kdd2016/papers/files/rfp0191-wangAemb.pdf 2016 KDD | SDNE: Structural Deep Network Embedding
深度学习中的Embedding层
weixin_45887664的博客
05-03 1494
在许多深度学习实战中对于Embeding的介绍比较含糊，比如 Keras中文文档中对嵌入层 Embedding的介绍除了一句 “嵌入层将正整数（下标）转换为具有固定大小的向量”之外就没有了。下面选择重点详细说一下。 单词嵌入是使用密集的矢量表示来表示单词和文档的一类方法。词嵌入是对传统的词袋模型编码方案的改进，传统方法使用大而稀疏的矢量来表示每个单词或者在矢量内对每个单词进行评分以表示整个词汇表，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值