ClusterGAN知识小结

最新推荐文章于 2024-04-20 13:08:20 发布
最新推荐文章于 2024-04-20 13:08:20 发布
阅读量2.7k 收藏 5
点赞数 1
分类专栏： 知识梳理 AI 文章标签： GAN ClusterGAN 机器学习 聚类
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/AndyViky/article/details/90736831
版权
ClusterGAN知识小结简介ClusterGAN 是第一个解决GAN在潜在空间聚类问题的工作，通过从一个one-hot编码变量和连续潜在变量的混合中对潜在变量进行采样，结合反向网络（将数据投射到潜在空间）与聚类特定损失共同训练，能够实现在潜在空间的聚类。主要贡献在一般的GAN中，即使潜在变量保留了关于观测数据的信息，潜在点也会基于潜在分布而平滑地分散，导致没有可观察到的聚类。为了解...
摘要由CSDN通过智能技术生成

ClusterGAN知识小结

简介

ClusterGAN 是第一个解决GAN在潜在空间聚类问题的工作，通过从一个one-hot编码变量和连续潜在变量的混合中对潜在变量进行采样，结合反向网络（将数据投射到潜在空间）与聚类特定损失共同训练，能够实现在潜在空间的聚类。

主要贡献

在一般的GAN中，即使潜在变量保留了关于观测数据的信息，潜在点也会基于潜在分布而平滑地分散，导致没有可观察到的聚类。
为了解决上述问题，提出了三种主要的算法思想：

  1. 利用离散和连续潜在变量的混合，以在潜在空间中创建非光滑几何
  2. 提出了一种适应离散连续混合的新型反向传播算法，以及一个显式反向映射网络，以获得给定数据点的潜变量，因为该问题是非凸的。
  3. 建议联合训练GAN以及具有聚类特定损失的反向映射网络，以便投影空间中的距离几何反映变量的距离几何。

如下图所示为使用离散连续采样进行训练的结果。
GAN

结构

如下图所示为 ClusterGAN 的网络结构图，由 Generator，Discriminator，Encoder 组成，以下简称为 G，D，E，引入 E 的原因在于需要强制执行潜在向量的精确恢复：
训练流程为：从离散连续分布中采样，经过反向解码得出潜在变量，经由G

最低0.47元/天 解锁文章
AndyViky
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
GANKMeans基于GAN的聚类复合算法假想
`or 1 or 不正经の泡泡
05-23 562
文章目录前言原理编码效果 前言 这个是继续上一个猜想进行的编码研究，有没有类似的论文这个我不太清楚，在知网我是找到了一篇有使用GAN+KMeans的图片分类算法的。不过这个还是有不少差别的。 原理 所有我这样设计。 我同样保留一开始的欧氏距离Kmeans,再学习的过程当中去训练我的GAN网络。当发现我们的距离无法工作的时候，我们使用GAN。换一句话说，俺们这个其实是个复合算法。 那么问题来了，为什么用神经网络？其实分类问题，你发现其实它背后是有个”隐藏“逻辑的。我们一开始使用的是距离公式，也就是说我们期望找
深度学习聚类的综述
数据派THU
03-05 1090
来源：机器学习算法与Python实战本文约1200字，建议阅读5分钟本文对现有的深度聚类算法进行全面综述与总结。这篇博客对现有的深度聚类算法进行全面综述与总结。现有的深度聚类算法大都由聚类损失与网络损失两部分构成，博客从两个视角总结现有的深度聚类算法，即聚类模型与神经网络模型。1. 什么是深度聚类？经典聚类即数据通过各种表示学习技术以矢量化形式表示为特征。随着数据变得越来越复杂和复杂，浅层（传统）...
GAN（二）损失函数推导
最新发布
TyjphsQ的博客
04-20 700
上式中，我们目标是max V（D,G），即固定G，调整D，那么G不受影响，G（z）是近似X的分布，这里我们换元，后半部分，就变成了对x的积分，噪音的分布也写成。X 是真实数据，G(z)是生成的数据，所以有D（x) -> 1, D（G(z)）-> 0.要求调整D，求最值，于是对D进行求导，找驻点嘛。（注意，只是对D求导，并不对x进行求导），就是提高判别器的能力，在判别器眼里，这应该是两种。，就是提高生成器的能力，在生成器眼里，这应该是两种。其中 max 代表，固定G，调整D，使得。
GAN网络学习笔记系列2-Cluster GAN
weixin_44968613的博客
02-20 1667
1、文献创新及贡献： 提出一种新的基于聚类机制的CGAN，通过one-hot编码变量和连续潜变量的混合中采样潜变量，再将一个反向网络（将数据投射到潜空间）和一个聚类特定损失值与其进行结合，能实现再潜空间中聚类。GAN再潜变量中虽然保留了观测数据信息，但散点再平滑分散的情况下的散分布导致没有可以观察的集群，因此本文提出了一种算法用以解决上述问题。 文章贡献： 1、利用离散-连续潜变量的混合，以便再潜空间中创建一个非光滑几何 2、由于文章实验过程中面临着实验对象非凸性，因此提出一种适应离散-连续混合的反
ClusterGAN : Latent Space Clustering in Generative Adversarial Networks 翻译
shaodongheng的博客
01-07 5480
ClusterGAN : Latent Space Clustering in Generative Adversarial Networks 翻译 注：其中还有不清楚的地方 摘要 生成对抗网络（GAN）在许多无监督学习任务中取得了显着的成功，毫无疑问，聚类是一个重要的无监督学习问题。虽然人们可以利用GAN中的潜在空间反向映射进行聚类，但我们证明了聚类结构没有保留在GAN的潜在空间中。在本文...
[解读] ClusterGAN : Latent Space Clustering in Generative Adversarial Networks
天在那边
04-25 1799
链接: https://arxiv.org/abs/1809.03627v2 ClusterGAN 是一个 GAN 的变体, 通过使得生成样本反推的隐变量在隐空间中具有明显的簇的特征, 来提升 GAN 的性能. 相关工作 InfoGAN [4] 是一个研究在隐空间中进行可解释性的表征学习的开创新方法, 目标是创建可解释性的和可解的隐变量. 虽然 InfoGAN 使用了离散的隐变量, 但它不是为聚类...
【论文笔记】ClusterGAN: Latent Space Clustering in Generative Adversarial Networks
qq_44055705的博客
04-03 1074
【论文笔记】ClusterGAN: Latent Space Clustering in Generative Adversarial Networks 文章题目：ClusterGAN: Latent Space Clustering in Generative Adversarial Networks 作者：Sudipto Mukherjee，Himanshu Asnani，Eugene Lin，Sreeram Kannan 关键词： 时间：2019 来源：AAAI 2019 paper：https:/
facenet-face-recognition:这是GAN中用于图像合成的论文潜在学习空间向量的论文研究产品。 这对研究有一个应用，命名为面部识别系统。 该应用程序是通过咨询FaceNet模型开发的
03-09
研究成果请在以下链接中找到ClusterGAN流形学习表示法的研究结果。如何使用从GitHub克隆存储库git clone https://github.com/Ayoob7/facenet-face-recognition.git安装项目要求pip install -r requirements.txt在根...
基于生成对抗网络多视图异常检测问题复现.zip
04-12
1. **ClusterGAN**：这是一种改进的GAN结构，它结合了聚类思想。在训练过程中，不仅让生成器学习数据的分布，还让其学习数据的潜在类别结构，从而更准确地捕捉正常模式。这有助于提高对复杂异常检测任务的性能。 2....
论文笔记---ClusterGAN: Latent Space Clustering in Generative Adversarial Networks
weixin_44177594的博客
05-17 854
ClusterGAN前提知识AbstractMethod采样反向传播线性生成聚类损失函数experimentsConclusion 前提知识 Abstract 简单来说，本论文研究基于GAN的无监督分类问题，GAN的潜变量保留数据信息，但是数据的分布往往是平滑的，比如上图©,这种情况对于无监督分类任务十分不友好，针对上述问题提出了ClusterGAN。贡献如下： 利用一个混合的离散和连续潜变量（one-hot编码和正态随机变量），以创建一个非光滑几何潜空间——图1-（d）。这样做的目的就是既保证良好的类
ClusterGAN: Latent Space Clustering in Generative Adversarial Networks论文理解
weixin_43897803的博客
07-16 420
目的：使用GAN在隐空间中进行聚类 一、背景 普通GAN的训练过程：minθGmaxθDEx∼Pxrq(D(x))+Ez∼Pzq(1−D(G(z)))min_{\theta G}max_{\theta D}\textbf{E}_{x\sim P^r_x}q(D(x))+\textbf{E}_{z\sim P_z}q(1-D(G(z)))minθG​maxθD​Ex∼Pxr​​q(D(x))+Ez∼Pz​​q(1−D(G(z)))，它无法在隐空间很好地聚类。 原因：GAN聚类的一个可能的方式是将数据反向传播到
Python-PyTorch实现的ClusterGCN一种用于训练深度和大型图形卷积网络的高效算法
08-11
A PyTorch implementation of "Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks" (KDD 2019).
论文阅读笔记（17）：GAN-based Enhanced Deep Subspace Clustering Networks，基于GAN的增强深度子空间聚类网络
weixin_44876302的博客
09-02 1190
论文阅读笔记（17）：GAN-based Enhanced Deep Subspace Clustering Networks，基于GAN的增强深度子空间聚类网络摘要介绍 摘要 在本文中，我们提出了两种基于GAN的深子空间聚类方法：基于对偶对抗生成（dual adversarial generative）网络的深度子空间聚类（DSC-DAG）和基于对抗生成网络的自监督深度子空间聚类（S2^22DSC-AG）。在DSC-DAG中，通过对抗训练同时学习输入和相应潜在表征的分布。此外，有两种合成表示有助于编码器
聚类算法
weixin_30511107的博客
09-14 283
一、聚类算法简介 聚类是无监督学习的典型算法，不需要标记结果。试图探索和发现一定的模式，用于发现共同的群体，按照内在相似性将数据划分为多个类别使得内内相似性大，内间相似性小。有时候作为监督学习中稀疏特征的预处理（类似于降维，变成K类后，假设有6类，则每一行都可以表示为类似于000100、010000）。有时候可以作为异常值检测（反欺诈中有用）。 应用场景：新闻聚类、用户购买模式（交叉销售）、图...
使用 GAN 进行图像分类和聚类
禅与计算机程序设计艺术
01-08 1328
1.背景介绍 图像分类和聚类是计算机视觉领域中的重要任务，它们在许多应用中发挥着重要作用，例如图像识别、自动驾驶、人脸识别等。传统的图像分类和聚类方法主要包括：支持向量机(Support Vector Machines, SVM)、随机森林(Random Forests)、K近邻(K-Nearest Neighbors, KNN)等。然而，这些方法在处理大规模、高维度的图像数据时，存在一定的局限...
GANMM小结
AndyViky的博客
06-09 3172
GANMM小结 简介 GANMM (Generative Adversarial Network Mixture Model) 是利用 GAN 进行聚类的一个模型，在传统聚类中非常典型的一个方法是利用高斯混合模型去匹配各个分布，高斯混合模型顾名思义就是利用多个高斯分布分别去拟合不同的分类，即有几个高斯分布就有几个聚类。但是高斯混合模型的最大缺点是无法拟合非常复杂的数据，在现实生活中大多数的数据并不...
jittor和pytorch 生成网络对比之clustergan
东方佑
12-22 469
pytorch代码 from __future__ import print_function try: import argparse import os import numpy as np from torch.autograd import Variable from torch.autograd import grad as torch_grad import torch import torchvision impor
cluster 聚类分析
再喝咖啡
10-08 2612
聚类分析被称之为unsupervised分析，一个跟它相似的概念是分类(classification)模型，不同的是，分类模型预先知道 一共有几个类别，每个类别的定义是什么，所以叫做supervised。聚类分析预先不知道目标分成哪几类。往往在实际中，先用cluster分成一些 类，然后有了这些类之后，可以再可以做classification分析，就是所谓的two steps analyt...
各种深度聚类方法摘要
ddana_a的博客
08-05 6970
Spectral Clustering with Graph Neural Networks for Graph Pooling 频谱聚类（SC）是一种流行的聚类技术，用于在图形上查找强连接的社区。 SC可以在图形神经网络（GNN）中使用，以实现汇总属于同一群集的节点的池化操作。但是，拉普拉斯算子的特征分解是昂贵的，并且由于聚类结果是特定于图的，因此基于SC的合并方法必须为每个新样本执行新的优化。在本文中，我们提出了一种图聚类方法来解决SC的这些局限性。我们制定了标准化minCUT问题的连续松弛，并训练了G
在ClusterGAN中，如何构建生成器
04-02
在ClusterGAN中，生成器被设计为由两个部分组成：无条件生成器（Unconditional Generator）和条件生成器（Conditional Generator）。 无条件生成器的作用是生成一些随机的特征，这些特征具有一定的统计特性，可以用来生成一些未经分类的样本。具体地，无条件生成器将输入的随机噪声向量z通过一系列的全连接层、激活函数和卷积层进行处理，最终输出一个与真实数据具有相同维度的虚假样本。 条件生成器则是根据输入的类别信息c来生成与该类别相关的虚假样本。具体地，条件生成器将输入的类别信息c和随机噪声向量z通过一系列的全连接层、激活函数和卷积层进行处理，最终输出一个与真实数据具有相同维度的虚假样本。 在ClusterGAN中，生成器的具体实现方式可以参照传统的GAN模型，使用深度卷积神经网络（DCGAN）进行搭建。同时，由于ClusterGAN需要对数据进行聚类，因此生成器的输出需要满足类别之间的差异，可以在生成器的输出中加入一些类别信息的约束。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值