李宏毅2020ML——P74 Unsupervised Conditional Generation

最新推荐文章于 2021-09-05 01:44:26 发布
最新推荐文章于 2021-09-05 01:44:26 发布
阅读量113 收藏 1
点赞数 1
分类专栏： 李宏毅2020ML 文章标签： 机器学习 深度学习 GAN
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44177594/article/details/115184470
版权

无监督的有条件生成

introduce

回顾无监督学习：
在这里插入图片描述
举例
在这里插入图片描述

Direct Transformation

第一种做法：直接转（多用于纹理或颜色变化）

最开始的想法：
在这里插入图片描述
缺点：可能得不到我们的答案
在这里插入图片描述
解决办法有很多：

第一种：直接忽略

如果你的NN不是很深，ML只会在输入的image上做出轻微的改变，所以可以不用不管
在这里插入图片描述

第二种：改变NN架构，加入encoder

在这里插入图片描述

第三种做法：Cycle GAN

在这里插入图片描述
也可以双向
在这里插入图片描述
例子：将动画角色，转换成银色头发
在这里插入图片描述
在这里插入图片描述

Cycle GAN遇到的问题

隐写术：（ML会隐藏一些信息）
在这里插入图片描述

StarGAN

多domain直接转换
在这里插入图片描述
网络架构
在这里插入图片描述
举例
在这里插入图片描述
在这里插入图片描述

Projection to Common Space

当input和output的差距很远时，直接转肯定是不现实的，我们可以利用auto-encoder，先用encoder提取输入input的特征，然后再用decoder将特征转换成我们像想要的output
在这里插入图片描述
但是显然这个架构并不是考虑的很全面

缺点在于：我们的encoder和decoder都是分开训练的，所以他们所说的“语言”不同（比如说ENx提取特征得到的vector的第一维代表的是眼睛大小，但是ENy取特征得到的vector的第一维代表的是头发长度）
在这里插入图片描述
我们解决的办法也有很多

第一个参数共享
在这里插入图片描述
第二个 加一个discriminator
在这里插入图片描述
还有combo GAN、XGAN等，不一一说明

application

语言转换

在这里插入图片描述

小葵向前冲
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
李宏毅《GAN Lecture》学习笔记3 - Unsupervised Conditional GAN
好记性不如烂笔头
10-16 765
Unsupervised Conditional GAN 上一篇介绍的Conditional GAN是需要成对的数据作为训练集，而在很多情况下，很难准备这样的训练集。不成对的数据较为容易收集，那么，利用这些不成对的数据做Conditional GAN就是Unsupervised Conditional GAN. 有两种实现 ...
从代码学ConditionalGAN
加勒比海鲜王
09-28 7654
首先，代码引用自https://github.com/wiseodd/generative-models 感谢这位网友的代码支持。每个月总有30天不想看论文，所以直接看源码或许是一个好办法。因为有些时候它的改动就那么一点点。而论文却要用晦涩难懂的语言证明上十几页。上边这个链接中给出了很多GAN和VAE以及各种变体的源码，并且写得清晰易懂，再次感谢这位网友的贡献。ConditionalGAN顾名思义
李弘毅老师GAN笔记（三），Unsupervised Conditional GAN
taoyafan的博客
07-31 1969
目录 0 概述 1 直接转换 1.1 第一种方法 1.2 第二种方法 1.3 第三种方法 1.4 StarGAN 2 基于特征转换 2.1 第一种方法 2.2 第二种方法  2.3 第三种方法  2.4 第四种方法 3 其他应用  0 概述 两种方法，如图1所示，方法一是直接转换，方法二是先得到特征再解码。 图1 两种方法简介 1 直接转换 1.1 第一种方法 ...
机器学习与深度学习系列连载： 第四部分 对抗网络GAN (八) 对抗网络 （Unsupervised Conditional Sequence Generation）
Doctor Wu的博客
12-28 568
对抗网络 （Unsupervised Conditional Sequence Generation） 现实世界中，非监督数据占据绝大多数，GAN可以利用非监督数据进行结构化数据生成。 1. 文本转换 Text Transfer 我们经常使用GAN做图片生成，其实除了图片这样的结构化数据外，文本转换也是GAN可以做到的。 我们可以使用Cycle GAN的技术进行文本的“情绪”转换 由于文本是...
李弘毅老师GAN笔记（二），Conditional GAN
热门推荐
taoyafan的博客
07-27 2万+
本文记录的是李弘毅老师的GAN的第二节课，bilibili视频链接为：https://www.bilibili.com/video/av24011528/?p=2，相关的课程课件链接为：http://speech.ee.ntu.edu.tw/~tlkagk/courses/MLDS_2018/Lecture/CGAN.pdf 目录 1 什么是 Condition GAN 2 Cond...
李宏毅：GAN——Unsupervised Conditional Generation
qq_42146775的博客
07-08 270
回忆 Generation：输入一个随机的输入，会输出一个随机的输出 Conditional Generation：你可以根据你所输入得到你想要的输出，而不是由GAN随机生成，你可以通过控制输入来控制输出的结果 supervised Conditional Generation：比如图片生成文字，我们database里面有很多{文字，图案}的pair来训练 Unsupervised Conditional Generation：比如下面的将图片转换成另一个风格（因为这个想做pair做监督学习也很难）
2020李宏毅学习笔记——45.Unsupervised learning Deep Generative Model(Part II)
weixin_44554337的博客
07-10 373
这节我觉得主要是讲VAE的好处： 1.从原理上来讲 1.1 先看一下VAE经典框架： 1.2 解释这几个参数 可以看到每个encoder分了两个东西σ和m，每个东西三个值，所以相当于对code加上了噪声，相当于code有一定的范围，因此可以在这个范围内生成对应的图片。 1.3 why VAE？ 注意看中间部分，两个图片的code加上噪声之后中间有重叠部分，也就是说这个地方既要可以生成满月，又要生成半月图片，根据输入和输出之间的误差最小的目标，这个位置的图片只能是介于满月和半月之间了。 所以在VAE的模型
2020李宏毅机器学习笔记——26.Conditional Generation by GAN（条件生成—GAN）
weixin_44790306的博客
09-05 671
Conditional Generation by GAN 文章目录摘要1. Supervised Conditional GAN 摘要 1. Supervised Conditional GAN
李宏毅2020ML——P80通过GAN改进序列生成
weixin_44177594的博客
03-26 159
OutlineConditional Sequence GenerationRL (human feedback)GAN (discriminator feedback)三个解决不能微分的办法：Gumbel-softmaxContinuous Input for DiscriminatorReinforcement LearningUnsupervised Conditional Sequence GenerationText Style TransferUnsupervised Abstractive S
李宏毅 2020 ML Homework 2 - Classification-数据集
03-25
《李宏毅2020年机器学习作业2——分类数据集详解》 在这个数据集中，我们关注的是李宏毅教授在2020年开设的机器学习课程中的第二个作业，主题是“分类”。分类是机器学习领域的一个基础任务，其目标是根据输入特征...
李宏毅 2020 ML Homework 1: Linear Regression-数据集
03-25
在这个“李宏毅2020 ML Homework 1: Linear Regression-数据集”中，我们关注的是一个回归问题，特别是针对PM2.5（细颗粒物）浓度的预测。PM2.5是指大气中直径小于或等于2.5微米的颗粒物，对人体健康和环境有显著...
台大 李宏毅教授VAE+GANs的讲解ppt Unsupervised Learning Generation ppt
最新发布
05-27
### 台大李宏毅教授VAE+GANs讲解PPT概述 本次分享主要围绕台大李宏毅教授关于无监督学习中的生成模型(VAE+GANs)的讲解PPT展开。通过分析PPT的内容、描述及部分示例，本文将深入探讨无监督学习中的生成技术，特别是...
视频学习笔记——李宏毅机器学习——P1，2
09-12
【机器学习介绍】 机器学习是计算机科学的一个分支，它的核心目标是使计算机系统具备自我学习的能力，从而在没有明确编程的情况下改善其性能。这源于人类的学习潜能，只不过在这里，我们试图通过算法和统计模型来...
李宏毅2020机器学习作业2——Classification
01-21
开始之前声明：本文参考了李宏毅机器学习作业说明（需翻墙），基本上是将代码复现了一遍，说明中用的是google colab（由谷歌提供的免费的云平台），我用的是Jupyter Notebook 本文用到的资料在百度网盘自取点击下载...
李宏毅2020ML——P24-31可解释性ML
weixin_44177594的博客
03-17 360
Explainable machine learningintroduceLocal Explainable基本的思想：global Explainable方法1——activation maximization方法二利用一个可解释model去解释不可解释的modelLinear Model决策数 introduce 在分类问题中，我们输入一张猫的图片，machine会告诉我们这是”猫“，但是为什么？ 问题1：为什么machine会认为这个是猫呢？ 问题2：machine眼中的猫是什么样子的呢？ 或者是m
李宏毅2020ML——P58 自动编码器
weixin_44177594的博客
03-23 300
自编码器introduceapplicationtext retrievalbeforeauto-encoder——text retrievalSimilar Image SearchPre-training DNNfor CNNOther Auto-encoderDe-noising auto-encodergeneration introduce 与PCA对比 can deep 效果对比 二维可视化 application text retrieval before auto-encoder
李宏毅2020ML——P8-P9 Optimization for Learning（最优化方法）
weixin_44177594的博客
03-10 278
最优化方法SGDSGD with momentumAdagradRMSPropAdamNadamAdamW & SGDW with momentum总结 SGD 缺点：（正因为有这些缺点才让这么多大神发展出了后续的各种算法） 选择合适的learning rate比较困难 - 对所有的参数更新使用同样的learning rate。对于稀疏数据或者特征，有时我们可能想更新快一些对于不经常出现的特征，对于常出现的特征更新慢一些，这时候SGD就不太能满足要求了 SGD容易收敛到局部最优，并且在某些情况
李宏毅2020ML——tips for training DNN深度学习技巧
weixin_44177594的博客
03-15 246
tips for training DNN本节综述：Recipe of Deep Learning确定问题在哪里不是所有不好都来自于overfitting不同方法去解决不同问题如何在Training data上得到更好的performance1. New activation function梯度消失的问题ReLUhandle Vanishing gradient problemMaxoutHow to train Maxout2.Adaptive Learning RateAdagardRMSPropMo
conditional generation by
07-25
- *1* *2* *3* [2020李宏毅机器学习笔记——26.Conditional Generation by GAN（条件生成—GAN）](https://blog.csdn.net/weixin_44790306/article/details/120097305)[target="_blank" data-report-click={"spm":...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值