关于李宏毅GAN课程的一些笔记

最新推荐文章于 2023-09-28 15:04:38 发布
原创 最新推荐文章于 2023-09-28 15:04:38 发布 · 253 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #深度学习

本文探讨了GAN的工作原理，包括为何需要生成器和判别器配合、条件GAN如何利用文本描述引导生成、数学理论中的JS散度和优化策略，以及为何目标是寻找分布一致而非其他。

这里只记录一些看完1-4课后，被解决的困惑们。
一、为什么使用GAN
GAN有生成器G和判别器D。
能不能只用生成器？
可以，但是需要的网络更大更深。
能不能只用判别器？
可以，但最终生成的结果可能会很模糊。
在这里插入图片描述

二、条件GAN
比如有一些文本描述，辅助生成图像。
三、数学理论
需要注意的一些小细节。

  1. G就是为了让生成数据的分布和真实数据分布是一致的，例如真实数据是一些图像，世界上所有的图像组成一个高维的空间，真实的图像只占其中一部分，我们假设它们是满足某个分布PdataP_{data}Pdata​的，所以我们希望生成的数据也服从这个分布（同mean，同var）。
    转化为优化问题，其实G是为了最小化一个真实数据分布和生成数据的分布之间的度量。
    后来经过证明maxDV(G,D)max_D V(G,D)maxD​V(G,D)可以看作JS散度，去度量上述两个分布。
    所以，G∗=arg min⁡Gmax⁡DV(G,D)G^*=\argmin_G \max_D V(G,D)G

最低0.47元/天 解锁文章
GAN学习笔记-李宏毅：GAN Lecture 2 (2018): Conditional Generation
qq_31895943的博客
03-06 499
李宏毅老师讲解的GAN Lecture 2 (2018): Conditional Generation Conditional Generation: 可以操控要输出的内容，如输入文字产生图片(Text to image) Text to image 1）traditional supervised approach：训练数据是text+image，model产生出的图片都比较模糊，因为是...
GAN系列：李宏毅老师GAN课程P2+P3——Conditional GAN
lynlindasy的博客
02-23 2875
看这个课程的时候，有弹幕说P1后直接看P4，然后再看P2和P3，这个顺序确实更好一点。这部分主题是条件GAN(Conditional GAN)，所谓的条件就是我们对要生成的图片的要求和限制。之前生成器的输入是一个随机噪声向量，生成器根据向量产生任意的图像。在实际应用中，产生的图像一般是有特定限制的，比如要产生火车的图像，人脸的图像等。因此Conditional GAN更有实用价值。Conditio...
李宏毅 -生成对抗网络GAN课件 234页
11-30
李宏毅 -生成对抗网络GAN课件 234页 李宏毅 -生成对抗网络GAN课件 234页
李宏毅机器学习笔记-GAN
nousefully的博客
08-18 719
无
GAN 李宏毅-课程笔记
qq_52736856的博客
09-28 276
用GAN的方式代替Seq2Seq的方式.将文本和摘要视为两个domain,依次来实现无监督的GAN.具体的实现和Cycle GAN类似.
GAN学习笔记-李宏毅：GAN Lecture1（2018）：Introduction
qq_31895943的博客
03-06 937
李宏毅老师讲解的GAN Lecture1（2018）：Introduction Github上一个总结GAN及其扩展的项目：[the-gan-zoo](https://github.com/hindupuravinash/the-gan-zoo) Outline Basic idea of GAN Basic idea of GAN Generator：a random vector t...
李宏毅GAN 学习笔记3 -- Unsupervised Conditional Generation
s1nnix的博客
12-11 519
Unsupervised Conditional Generation 无监督的条件GAN网络，简单来说就是给出两堆data（data之间没有任何的关联），machine自己学到怎么从一堆转到另外一堆。 有两种方法，第一种是Direct Transformation，直接进行转换，这种方法适用于input和output的差别比较小，比如说是颜色或者风格上的变化。 具体实现： 第二个是Projection to Common Space，这种方法适用于比较复杂的转换，就不仅仅是简单的改改颜...
李宏毅GAN笔记——Basic Theory
weixin_44204511的博客
11-19 427
GAN 本节思维导图 理论 假设图片是高维空间的向量x，而我们需要产生的图片是有一个固定的分布Pdata(x)P_{data}(x)Pdata​(x).我们需要做的是那这个分布找出来，但我们拥有的数据是一些样本，我们能够知道这些能产生很好效果的样本的位置在哪里，不知道具体的要求的分布是什么样的。 在GAN之前，我们使用的算法是MEL(极大似然估计法)。 MLE 以下内容参考一文搞懂极大似然估计 似然函数（参数未知、变量已知）就是对于不同的模型参数，出现x这个样本点的概率。 极大似然估计就是利用已知的样本结
GAN学习笔记-李宏毅：GAN Lecture 3 (2018): Unsupervised Conditional Generation
qq_31895943的博客
03-06 594
李宏毅老师讲解的GAN Lecture 3 (2018): Unsupervised Conditional Generation 类似于风格转化的task 两类方法： 1）直接转：只能进行小改，input和output间差距较小（如颜色或纹理转化） 2）投射到公共空间：input和output间差距较大（真人转化为动画人物） Direct Transformation 存在问题-Ge...
GAN 李宏毅 课程笔记（一）
hn_lgc的专栏
09-01 519
Generator 不用想得太复杂，就是一个函数。函数的形式可以是NN。 输入一个向量，这个向量可以看成一个控制向量，用向量中的元素表示生成对象的属性。生成对象可以是不同的东西，图片矩阵，文字序列都可以，需要具体控制。 这可以弄出一个有趣的应用，通过改变输入向量，生成人脸渐变的中间图像。 比如用向量中的第一个元素表示头发的长度，导数第二个表示头发的颜色。 一样的，判别器也可以看成一个函数，可以是NN。它的输入是前面生成的对象，比如一张图片。输入是一个数字，就是生成对象的逼真程度，符合程度。 GAN的原
李宏毅机器学习GAN的笔记
XiaoQiXiaoWei_J的博客
01-27 2964
搜索网页以及视频，对GAN的笔记，仅供参考，加入了很多自己的理解
李宏毅GAN学习笔记（二）
qq_43751506的博客
04-29 279
假如没有判别器的时候，其实也可以做到图像生成，这就是自动编码器，首先输入图像，然后经过一个网络训练输出一个向量，这就是编码。然后再训练一个网络，他可以根据生成的编码还原出真实图像，而我们训练的目标就是还原图像和原图像尽可能接近，这个过程就是解码。而这个Decoder，其实就是一个生成器。 自动编码器却存在一些问题，例如一个向左的1的编码和一个向右的1的编码取平均并不一定是一个正的1，因为神经网...
李宏毅GAN学习笔记（02）
RookieFCB的专栏
03-30 497
GAN Lecture 2 Conditional Generation by GAN Algorithm In each traing iteration: Sample m positive examples {(c1,x1),(c2,x2),…,(cm,xm)}\{(c^1, x^1), (c^2, x^2), \dots, (c^m, x^m)\}{(c1,x1),(c2,x2),…...
P11机器学习--李宏毅笔记GAN（对抗生成网络）
u013373155的博客
11-13 1396
GAN的基本概念 GAN的训练方法 训练GAN的目标 Model Collapse Model Dropping 计算多样性 Conditional GAN Condtitional GAN+Supervised learing cycle Gan
李宏毅机器学习笔记：GAN
qq_43711697的博客
08-30 4957
前言 主要记录李宏毅机器学习2021中介绍GAN部分的笔记，从GAN的发展开始到GAN的基本理论再到GAN生成的评价方法最后到介绍流行的GAN方法。 一、GAN的基本介绍 GAN的全名是Generative Adversarial Network生成对抗网络，其主要的目的是为了让训练机器让机器能够自主生成相对应类型的图片，其中生成器generator就是GAN中进行生成相对应类似分布的网络，而鉴别器Discriminator就是判别生成器生成是否为真假的网络，鉴别器通过将输入的图像转换成一个判别值来判断真
【学习笔记-李宏毅】GAN（生成对抗网络）全系列（一）
iioSnail的博客
07-06 4150
前言 相关链接 1. Introduction 1. 1 Basic Idea of GAN 1.2 GAN as structured learning 1.3 Generator可以自己学吗？ VAE（Variational Auto-encoder） 2. CGAN, Conditional Generation by GAN 2.1 discriminator的架构改进 2.2 Stack GAN 2.3 Image-to-image 2.4 Speech Enhancement（提升语音的质量）
GAN的原理（李宏毅GAN笔记）
chengsilin666的博客
07-15 2146
我们通常用GAN来做Gerneration。 对于一张图片x，其通常分布在高维空间中的一个流行上。在下图中，位于蓝色区域的点仅有很大的概率出现在我们的database中。 那么图像生成的主要任务是什么呢？ 给定义原始数据的分布，再给定一个以作为参数的概率模型,该模型可以由generator学习得到。我们希望的，便是找到相应的参数，使得原始数据集中的样本x在由G所定义的概率分布中出现的概率...
李宏毅老师《机器学习》课程笔记-6 GAN
宁萌Julie的博客
06-16 1388
介绍GAN(Generative Adversarial Model)。
李宏毅2021机器学习笔记——GAN
Alex_SCY的博客
08-06 1268
GAN_P1 Generation Network as Generator 接下来要进入一个,新的主题 我们要讲生成这件事情 到目前為止大家学到的network,都是一个function,你给他一个X就可以输出一个Y 我们已经学到各式各样的,network架构,可以处理不同的X 不同的Y 我们学到输入的X 如果是一张图片的时候怎麼办 如果是一个sequence的时候怎麼办 我们也学到输出的Y 可以是一个数值 可以是一个类别 也可以是一个sequence 接下来我们要进入一个新的主题,这个新的主题
李宏毅教授深度学习GAN课程资源分享
7. 挑战与未来发展方向：最后，课程会讨论目前GAN面临的一些挑战，例如训练不稳定、模式崩溃、计算成本高等问题。同时，会对GAN技术的未来发展方向提出展望，比如更加强大和高效的模型架构、更好的训练稳定性和泛化...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值