深度聚类一些

最新推荐文章于 2022-07-06 16:26:34 发布
最新推荐文章于 2022-07-06 16:26:34 发布
阅读量160 收藏 1
点赞数
分类专栏： 深度学习 文章标签： 算法 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44177594/article/details/118110214
版权
本文介绍了高斯混合模型(GMM)的基本概念，包括其由多个高斯分布组成的特性，以及EM算法如何通过E步求期望和M步使参数最大化。接下来，内容转向变分推断，讲解了其在复杂模型中的应用，如变分自编码器。最后，着重讲解了变分深度嵌入(VaDE)，一种利用深度学习进行数据嵌入的方法。
摘要由CSDN通过智能技术生成

深度聚类

GMM—高斯混合模型

1.定义

高斯—高斯分布
高斯混合—多个高斯分布叠加而成
在这里插入图片描述

2. GMM算法步骤

EM—最大期望
E — 求目标函数期望，即求目标函数取对数之后的期望值
M—使期望最大化。 用到极大似然估计，拉格朗日乘数法，对参数求偏导，最终确定新的参数。
在这里插入图片描述

变分推断与变分编码器

1. 变分推断

在这里插入图片描述
在这里插入图片描述

2.变分自编码器

在这里插入图片描述

变分深度嵌入（variational deep embedding,VaDE）

1.

小葵向前冲
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【超详细】深度聚类
allein_STR的博客
01-05 1万+
经典聚类即数据通过各种表示学习技术以矢量化形式表示为特征。随着数据变得越来越复杂和复杂，浅层（传统）聚类方法已经无法处理高维数据类型。为了解决该问题，深度聚类的概念被提出，即联合优化表示学习和聚类。
深度学习【24】变分自编码
DCD_LIN的博客
12-13 3187
变分自编码 论文:Auto-Encoding Variational Bayes (https://arxiv.org/pdf/1312.6114v10.pdf) 在最大化含有隐藏变量的后验概率问题时，一般我们可以用EM算法，采样算法以及变分贝叶斯等方法。其中变分贝叶斯是用一个较为简单的Q函数去逼近后验概率密度函数，其中的主要问题是如何求解Q函数。传统的变分贝叶斯，其Q函数的求解可以用平...
Variational Deep Embedding: An Unsupervised and Generative Approach to Clustering(VaDE)
weixin_44441131的博客
06-24 2264
0. 写在前面 本篇文章也是关于VAE的深度无监督聚类算法VaDE，主要从它的模型、Loss、优化方法去讲、最后会简单提及实验部分，并且与之前的GMVAE作比较。 1. Abstract 提出VaDE模型，它是深度无监督聚类生成模型，结合了VAE和GMM。 指出数据的生成过程： 1.从GMM分布中选择一个簇 2.从这个簇中产生一个隐变量z 3.解码该隐变量z生成观测数据 提出用SVGB优化方法 实验效果很好 1. Introduction(介绍) 这一部分一般是概要性的引出作者提出的模型，我们直接上
VAE-＞VaDE-＞DGG 三篇论文演化讲起
小海鲜的博客
08-04 2758
一、变分自编码(VAE) 如上图所示，假设有两张训练图片，一张是全月图，一张是半月图，经过训练我们的自编码器模型已经能无损地还原这两张图片。接下来，我们在z上，两张图片的编码点中间处取一点，然后将这一点交给解码器，我们希望新的生成图片是一张清晰的图片（类似3/4全月的样子）。但是，实际的结果是，生成图片是模糊且无法辨认的乱码图。一个比较合理的解释是，因为编码和解码的过程使用了深度神经网络，这是一个非线性的变换过程，所以在z上点与点之间的迁移是非常没有规律的。也就是说中间隐层z的分布，我们是未知的，因此我们
VAE变分自编码+聚类
小海鲜的博客
08-02 2408
一、变分推断 二、变分自编码 三、联合分布 四、聚类
【转】变分深度嵌入(Variational Deep Embedding, VaDE)
boooiaji的博客
01-03 1151
全文转载自 https://www.cnblogs.com/kailugaji/p/12882812.html 阅读目录(Content)变分深度嵌入(Variational Deep Embedding, VaDE)1. 前提公式2. VaDE损失函数公式推导过程3. VaDE算法总体流程4. 疑问5. 参考文献 回到顶部(go to top)变分深度嵌入(Variational Deep Embedding, VaDE) 作者：凯鲁嘎吉 - 博客园 http://www.cnblogs.com
变分推断（variational inference）
热门推荐
Keith
02-12 2万+
大家对贝叶斯公式应该都很熟悉 P(Z|X)=p(X,Z)∫zp(X,Z=z)dzP(Z|X)=p(X,Z)∫zp(X,Z=z)dzP(Z|X)=\frac{p(X,Z)}{\int_z p(X,Z=z)dz} 我们称P(Z|X)P(Z|X)P(Z|X)为posterior distribution。posterior distribution的计算通常是非常困难的，为什么呢？ 假设ZZZ是一...
深度学习（五十一）变分贝叶斯自编码器(上)
hjimce的专栏
02-23 6734
度生成模型比较常碰到的有三个：对抗网络、变分自编码、DBN。学习深度生成模型，涉及到比较多的贝叶斯学派观点，所以公式难免一大堆，贝叶斯观点：对于每个观测数据x，是从分布函数x~p(x)中采样得到。比如对于手写数字数据，我们可以把它看成是从某个28*28维度的某个未知分布函数中，进行随机采样得到的样本。这篇博文我们先讲解深度生成模型中的经典算法：变分自编码器，主要参考文献：《Auto-Encoding Variational Bayes》。
Unsupervised Deep Embedding for Clustering Analysis论文介绍
SCS199411的博客
06-03 5814
Unsupervised Deep Embedding for Clustering Analysis 1.Introduction 聚类在无监督机器学习中由这几个方面进行了研究：如何定义一个类？什么是正确的距离矩阵？如何对数据进行有效聚类？如何验证聚类结果？至今已有许多工作致力于距离函数与嵌入方法的研究，用于执行聚类的特征空间无监督学习的的研究工作还比较少。对于所有最简单的图像数据集，使用欧氏距...
分类变量的深度嵌入(Cat2Vec)
AI 研习社的博客
05-20 1149
本文为 AI 研习社编译的技术博客，原标题 ： Deep embedding’s for categorical variables (Cat2Vec) 作者 |Prajwal Shreyas 翻译 | JoccKouisFung 编辑 | 酱番梨、Pita 原文链接：https://towardsdatascience.com/deep-embeddings-for-categorical...
理解：用变分推断统一理解深度生成模型（VAE、GAN、AAE、ALI（BiGAN））
花梦飞的博客
12-25 4407
参考文章：https://kexue.fm/archives/5716 https://zhuanlan.zhihu.com/p/40282714 本篇博客主要是参照上述两个博文，另外加入了一些自己的理解，也为了和自己学习或者常见的知识做一个对照，因为在学习过程中总有一个问题困扰，就是符号，前后的符号对照不好，还得想半天。所以有些符合可能跟原文章对不上，但跟我之前的博客可以对上。 特意将常用...
深度聚类的可视化解释
AI公园
06-18 2804
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Amit Chaudhary编译：ronghuaiyang导读视觉上的自监督学习方法，结合聚类，将无监督转变为有监督。许多...
深度聚类：将深度表示学习和聚类联合优化
weixin_48262500的博客
07-06 4148
经典聚类即数据通过各种表示学习技术以矢量化形式表示为特征。随着数据变得越来越复杂和复杂，浅层（传统）聚类方法已经无法处理高维数据类型。结合深度学习优势的一种直接方法是首先学习深度表示，然后再将其输入浅层聚类方法。但是这有两个缺点：i）表示不是直接学习聚类，这限制了聚类性能； ii) 聚类依赖于复杂而不是线性的实例之间的关系； iii）聚类和表示学习相互依赖，应该相互增强。...
各种深度聚类方法摘要
ddana_a的博客
08-05 6986
Spectral Clustering with Graph Neural Networks for Graph Pooling 频谱聚类（SC）是一种流行的聚类技术，用于在图形上查找强连接的社区。 SC可以在图形神经网络（GNN）中使用，以实现汇总属于同一群集的节点的池化操作。但是，拉普拉斯算子的特征分解是昂贵的，并且由于聚类结果是特定于图的，因此基于SC的合并方法必须为每个新样本执行新的优化。在本文中，我们提出了一种图聚类方法来解决SC的这些局限性。我们制定了标准化minCUT问题的连续松弛，并训练了G
【Embedding编码】（二）：分类变量的深度嵌入(Cat2Vec)
lizz2276的博客
06-12 807
本文为 AI 研习社编译的技术博客，原标题 ： Deep embedding’s for categorical variables (Cat2Vec) 作者 | Prajwal Shreyas 翻译 | JoccKouisFung 编辑 | 酱番梨、Pita 原文链接： https://towardsdatascience.com/deep-embeddings-for-categorical-variables-cat2vec-b05c8ab63ac0 在这篇博客中，我将会向你介绍如何在keras的基础
Deep Clustering - 深度聚类：方法与实现
小红花yu
03-18 7146
https://python.ctolib.com/zhoushengisnoob-DeepClustering.html https://github.com/zhoushengisnoob/DeepClustering（同上） https://blog.csdn.net/yyl424525/article/details/100058193
Variational Deep Embedding: An Unsupervised and Generative Approach to Clustering [VaDE-pytorch]
Ghy817920的博客
04-23 1737
Variational Deep Embedding: An Unsupervised and Generative Approach to Clustering https://arxiv.org/pdf/1611.05148.pdf 本文提出了一中无监督的生成模型，可以用作聚类，具体参见论文。在mnist数据集上复现代码见 https://github.com/GuHongyang/VaDE-...
Embedding Deep Metric for Person Re-identification: A Study Against Large Variations
yang_502的博客
03-04 1628
The source codes is available at http://www.cbsr.ia.ac.cn/users/hailinshi. 李子清小组的文章，主要用于做行人的再识别。这篇文章提出的方法主要是针对行人识别中的类内（同个人）差异大的问题。行人再识别相对于人脸识别，姿势、光照、遮挡等问题给识别带来更大的问题。文章的主要工作包括：1）选择适当的正例样本；2）带权值约束的
SpectralNet : spectral clustering using deep neural networks
lemontree的博客
08-10 3238
谱聚类是无监督数据分析中的领先且流行的技术。其主要限制之一是频谱嵌入的可扩展性和泛化（即，样本扩展）。在这篇文章中介绍了一种克服上述缺点的谱聚类深度学习方法。文章中的网络称为SpectralNet，学习一个映射，将输入数据点映射到其相关图拉普拉斯矩阵的本征空间中，然后将它们聚类。 文章中的训练好的SpectralNet可以实现将输入点到输出图拉普拉斯矩阵的本征空间的映射，并且实现聚类。训练Spe...
深度聚类python实现
最新发布
08-26
深度聚类的Python实现可以通过使用scikit-learn机器学习库中的顶级聚类算法来实现。具体步骤如下： 1. 首先，你需要导入必要的库和模块，例如`make_blobs`函数用于生成随机数据，`AgglomerativeClustering`类用于...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值