李宏毅《GAN Lecture》学习笔记7 - Info GAN,VAE-GAN,BiGAN

最新推荐文章于 2022-03-20 12:02:03 发布
最新推荐文章于 2022-03-20 12:02:03 发布
阅读量412 收藏
点赞数
分类专栏： GAN学习笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dupei/article/details/102677856
版权

Feature Extraction

本节介绍的GAN，可以用于做feature extraction，课程pdf和video。

Info GAN

之前训练的G，输入是一个latent，然后，就会输出对应的OBJECT。我们的假设是不同维度对应着不同的特征，而事实上，这种关系可能是非常复杂的，不易知道的。
在这里插入图片描述
下面是InfoGAN的架构：
上面与就是传统的GAN，差别是输入z可以视为两部分组成：c和z’，同时，引入了一个classifier，这个classifier和generator组合起来，类似与autoencoder（输入是c，转成一幅图片，再预测为c）。
discriminator与classifier可以共享参数，除了最后一层不同。
在这里插入图片描述
再将输入的一部分划归为c，并且，训练过程中&#

最低0.47元/天 解锁文章
dupei
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
李宏毅《GAN Lecture》学习笔记1 - GAN
好记性不如烂笔头
10-15 365
介绍GAN的基本原理和训练过程
GAN学习笔记-李宏毅：GAN Lecture 7 (2018): Info GAN, VAE-GAN, BiGAN
qq_31895943的博客
03-06 1791
李宏毅老师讲解的GAN Lecture 7 (2018): Info GAN, VAE-GAN, BiGAN 问题：input feature 对output影响不明确这件事 InfoGAN c是有意义的维度，z为随机的；因为某些维度被划分到c中，所以generator强制要求这些维度有意义；注意这里的关系是“c->其中的维度有意义”而不是“其中的维度有意义->c” ...
GAN学习笔记-李宏毅：GAN Lecture 3 (2018): Unsupervised Conditional Generation
qq_31895943的博客
03-06 514
李宏毅老师讲解的GAN Lecture 3 (2018): Unsupervised Conditional Generation 类似于风格转化的task 两类方法： 1）直接转：只能进行小改，input和output间差距较小（如颜色或纹理转化） 2）投射到公共空间：input和output间差距较大（真人转化为动画人物） Direct Transformation 存在问题-Ge...
机器学习算法（二十八）：Gan （生成式对抗网络）
weixin_39910711的博客
03-20 9732
生成式对抗网络（GAN, Generative Adversarial Networks ）是一种深度学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。模型通过框架中（至少）两个模块：生成模型（Generative Model）和判别模型（Discriminative Model）的互相博弈学习产生相当好的输出。原始 GAN理论中，并不要求 G 和 D 都是神经网络，只需要是能拟合相应生成和判别的函数即可。但实用中一般均使用深度神经网络作为 G 和 D 。一个优秀的GAN应用需要有...
非常详细的GAN（生成对抗网络）原理解读
weixin_43485035的博客
04-11 2261
GAN 什么是生成? 生成就是模型通过学习一些数据，然后生成类似的数据 GAN原理 GAN是如何生成图片？GAN有两个网络，一个是generator（生成图片的网络），还有一个是discriminator（判别网络）。 在我们训练过程当中，生成网络G的目标就是尽量生成真实的图片去"欺骗"网络D。 网络D的目标就是区分生成的图片与真实的图片。 这样就构成的一个"博弈过程"。 在最理想的情况下，G可以生成足以“以假乱真”的图片G(z)。对于D来说，它难以判定G生成的图片究竟是不是真实的，因此D(G(z)
语音合成（TTS)论文优选：Accent and Speaker Disentanglement in Many-to-many Voice Conversion
低调奋进
11-28 707
声明：语音合成（TTS)论文优选系列主要分享论文，分享论文不做直接翻译，所写的内容主要是我对论文内容的概括和个人看法。如有转载，请标注来源。 欢迎关注微信公众号：低调奋进 Accent and Speaker Disentanglement in Many-to-many Voice Conversion 本文章是2020.11.17西北工业大学，爱奇艺和标贝联合发表的文章，主要做many-to-many的带口音的VC(声音转换），具体的文章链接如下 https://arxiv.org/pdf/20
语音合成论文优选：唇语Speaker disentanglement in video-to-speech conversion
低调奋进
05-21 299
声明：语音合成论文优选系列主要分享论文，分享论文不做直接翻译，所写的内容主要是我对论文内容的概括和个人看法。如有转载，请标注来源。 欢迎关注微信公众号：低调奋进 Speaker disentanglement in video-to-speech conversion 本文为University POLITEHNICA of Bucharest Bucharest, Romania在2021.05.20更新的文章，主要研究领域为video-to-speech,具体的链接https://arxiv.or
SpeakerClassifier：一种随机森林分类器，可通过语音测量预测说话者的年龄段和性别
02-04
SpeakerClassifier：一种随机森林分类器，可通过语音测量预测说话者的年龄段和性别
[GAN学习笔记] 基础GAN（一）——原生GAN
m0_55905751的博客
03-04 2595
本笔记基于 deeplearning.ai 的 Generative Adversarial Networks (GANs) 专项课程 1. 简述 GAN由两个主要部分部分组成， 生成器（generator）和鉴别器（discriminator）。拿图像来说，生成器的作用的生成图像以尽可能迷惑鉴别器，鉴别器的作用是接收图像进而鉴别图像的真伪，整个GAN训练的过程就是两部分对抗的过程，故叫做生成式对抗网络。训练的结果使得生成器生成的假图像看起来真实。 2. 鉴别器（discriminator） 鉴别器实际.
GAN系列：李宏毅老师GAN课程P7——Info GAN，VAE-GAN，BiGAN
lynlindasy的博客
03-01 2266
Info GAN: 在GAN的生成器中，输入一个随机向量，可生成一副图像。向量和图像间的关系可以理解为某种映射，也可以视作向量是图像的特征(尽管可能是隐形的)。为了能找到向量中每个元素/特征和生成图像间的关系，希望元素的改变对图像的影响是有规律可循的，但是一般这种规律是不直观的，如下图所示： Info GAN就是针对该问题进行的改进： 1. 生成器的输入随机向量由两部分组成：和(都是向量...
GAN--7 info GAN VAE-GAN BiGAN
shanhaibukeping的博客
01-05 272
用GAN做 feature extraction infoGAN 原来的GAN： infoGAN： 把输入z分成两部分，假设z是20维，把前十维叫做c，后十维叫做z‘。 训练一个classifier：看generator输出的x，反推出输入的c。可以将generator看做encoder，classifier看做decoder，二者合起来看做一个auto-encoder。这个auto-encod...
ICCV 2017：训练GAN的16个技巧，2400+星（PPT）
热门推荐
人工智能
10-29 1万+
作者：Soumith Chintala等 编译：马文 【新智元导读】本文来自ICCV 2017的Talk：如何训练GAN，FAIR的研究员Soumith Chintala总结了训练GAN的16个技巧，例如输入的规范化，修改损失函数，生成器用Adam优化，使用Sofy和Noisy标签，等等。这是NIPS 2016的Soumith Chintala作的邀请演讲的修改版本，而2016年的
生成对抗网络(GAN)相比传统训练方法有什么优势?（一）
omnispace的博客
09-02 9112
作者：元峰 链接：https://www.zhihu.com/question/56171002/answer/148593584 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 自2014年Ian Goodfellow提出生成对抗网络(GAN)的概念后,生成对抗网络变成为了学术界的一个火热的研究热点,Yann LeCun更是称之为”过去十年间
课程向：深度学习与人类语言处理 ——李宏毅，2020 (P11)
阿芒Aris的博客
08-22 3407
本篇中，我们继续将讲解 语音转换 中的Feature Disentangle 中的问题和解决方法，以及对Unparallel Data的另外一种方法 Direct Transformation直接转换技术
李宏毅机器学习（22）
Baigker的博客
08-15 286
More about Auto-encoder 经过之前的学习，我们已经对Auto-encoder有基本的了解。这一课将进一步学习近年来的Auto-encoder的技术。 What is good embedding? 我们回归最开始的问题：我们希望embedding能干什么？ 答案很显然：我们希望embedding能代表原来的图片。比如：耳机代表三玖。 换言之，如何知道 Encoder 的输出，能否很好地表征出输入的特性呢？ 因此，我们需要有一个 Discriminator ，用于判断图片与embed
2017 如何训练一个GAN网络
g11d111的博客
04-08 4861
GAN, 作为一种非常厉害的生成模型, 在近年来得到了广泛的应用. Soumith, PyTorch之父, 毕业于纽约大学的Facebook的VP, 在2015年发明了DCGAN: Deep Convolutional GAN. 它显式的使用卷积和转置卷积在判别器和生成器中使用. 他对GAN的理解相对深入, 特地总结了关于训练GAN的一些技巧和方式, 因为不同于一般任务, 像设置优化器, 计算l...
语音合成（speech synthesis）方向二：鲁棒TTS（Robust TTS)
低调奋进
11-27 939
声明：工作以来主要从事TTS工作，工程算法都有涉及，平时看些文章做些笔记。文章中难免存在错误的地方，还望大家海涵。平时搜集一些资料，方便查阅学习：TTS 论文列表http://yqli.tech/page/tts_pape.html TTS 开源数据 http://yqli.tech/page/data.html。如转载，请标明出处：微信公众号，头条号: 低调奋进1 介绍 现有的TTS无论是single speaker model 或者multi-speaker model都需要大量高质量<text.
NLP（二）文本生成 --VAE与GAN模型和迁移学习
布拉拉巴卜拉的博客
08-18 3697
NLP之文本生成原理（二）--VAE与GAN模型VAE与GAN模型1. Auto Encoder 自编码器1.1 结构1.2 核心思想1.3 损失函数1.4 Denoising Auto Encoder(降噪自编码器)2. Variational Auto Encoder (VAE)2.1 核心思想2.2 损失函数2.3 KL divergence(KL散度)3. GAN(generative adversarial networks)3.1 GAN结构与核心思想3.2 训练 GAN 的难点3.3 如何优化
DL_6_无监督学习
weixin_46365033的博客
06-23 179
文章目录无监督学习基础主要应用名词解释学习要素无监督特征学习聚类K-MeansHAC分布式表示降维表示为什么要降维？如何进行降维？特征选择PCAAuto-encoder文本检索图像检索预训练DNNAuto-encoder for CNN矩阵因子分解(Matrix Factorization) 无监督学习基础 无监督学习是指从无标签的数据中学习出一些有用的模式。 监督学习：构建输入-输出之间的映射关系； 无监督学习：发现隐藏的数据中的有价值信息，包括有效的特征、类别、结构以及概率分布。 主要应用 主要分为特征
李宏毅深度强化学习：Q-Learning解析
"台湾李宏毅老师的深度强化学习PPT，涵盖了Q-Learning的基本概念、技巧以及连续动作的处理方法，对于理解强化学习中的评价函数（Critic）和策略（Actor）有很好的指导作用。" 在深度强化学习中，Q-Learning是一种...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值