李宏毅《GAN Lecture》学习笔记1 - GAN

已于 2022-02-28 09:10:14 修改
阅读量360 收藏 3
点赞数 2
分类专栏： GAN学习笔记 文章标签： GAN 学习笔记
于 2019-10-15 09:58:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dupei/article/details/102542432
版权

GAN

这一系列的课程学习于李宏毅老师的视频课程，相关的课程介绍，可以参考官网中关于GAN的部分。

本节的课程是介绍GAN的一些入门知识，相关的pdf和video。

GAN的训练过程

训练D的过程：

  • 固定Generator，并使用G随机生成N个样本，标注为0；从真实样本集合中，随机抽样M个样本，标注为1；

  • 训练Discriminator，用于分类上述的数据集。
    在这里插入图片描述
    训练G的过程：

  • 固定上述训练好的Discriminator，用作分类器；

  • 不断更新Generator，使得生成的样本可以让D识别为真实样本；
    在这里插入图片描述
    将G与D组成一个大的网络，同时，固定住D的参数，使得输出的scale越大越好。
    这样，反复迭代地训练Discriminator和Generator就可以完成GAN的训练了。

算法细节

在这里插入图片描述
其中，Learning D和Learning G时，采样的noise sample不必相同。

GAN的原理

下面从概念上，讲一下GAN的原理。GAN可以被视为Structured Learning中的一种，下面是Structured Learning的定义。

Structured Learning

Machine Learning是发现一个函数 f f f，可以根据输入

最低0.47元/天 解锁文章
dupei
关注
  • 2
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【论文阅读】MD-GAN: Multi-Discriminator Generative Adversarial Networks for Distributed Datasets
weixin_45142381的博客
11-14 197
【论文阅读】MD-GAN: Multi-Discriminator Generative Adversarial Networks for Distributed Datasets
生成对抗网络.md GAN
02-23
Generative Adversarial Networks Throughout most of this book, we have talked about how to make predictions. In some form or another, we used deep neural networks learned mappings from data points to labels. This kind of learning is called discriminative learning, as in, we'd like to be able to discriminate between photos cats and photos of dogs. Classifiers and regressors are both examples of discriminative learning. And neural networks trained by backpropagation have upended everything we thought we knew about discriminative learning on large complicated datasets. Classification accuracies on high-res images has gone from useless to human-level (with some caveats) in just 5-6 years. We will spare you another spiel about all the other discriminative tasks where deep neural networks do astoundingly well.
Generative AI 新世界 | 扩散模型原理的代码实践之采样篇
最新发布
亚马逊云科技专栏
10-07 317
那么在这里我们感觉到这可能是精灵，但可能是精灵 Bob 、精灵 Fred ，或者是精灵 Nance ，这时我们可能想让神经网络为这些精灵图像推荐更通用的细节，比如：在此基础上为 Bob 建议一些细节，或者你会为 Fred 建议一些细节等。假设下面是你已经有的精灵图像数据集（来自 ElvGames 的 FrootsnVeggies 和 kyrise 精灵图像集），你想要更多的在这些数据集中没有的大量精灵图像，你该如何实现这个现在看起来不可能完成的任务？除了你训练过的所有精灵之外，你还可以获得更多的精灵。
【每周CV论文推荐】初学基于GAN的视频生成有哪些经典论文需要阅读
hacker_long的专栏
09-14 1001
欢迎来到《每周CV论文推荐》。在这个专栏里，还是本着有三AI一贯的原则，专注于让大家能够系统性完成学习，所以我们推荐的文章也必定是同一主题的。当前图像生成领域的发展已经非常成熟，与之相关的视频生成领域也一直被研究，不过这是一个更难的问题，还没有那么成熟，本次我们来给大家介绍初学基于GAN的视频生成领域值得阅读的论文。作者&编辑 | 言有三1 VideoGAN和TGANVideoGAN是DC...
论文阅读《Momentum Contrast for Unsupervised Visual Representation Learning（MoCo）》
AmbitionalH的博客
11-18 2700
Background ＆ Motivation 在 NLP 领域，无监督的学习方法已经取得了很大的成功，而在 CV 领域监督学习预训练的方法依然占主导地位。文中分析是因为语言任务是离散的信号空间（words，sub-word units），而视觉任务中原始信号是离散、高维并且不像 words 那样是为人类交流构造的。 这是一篇用无监督的方法实现对比学习（contrastive learning）的文章， 此前的方法都是将对比学习看作是查阅字典的操作（dictionary look-up）。如下图：
李宏毅《GAN Lecture》学习笔记2 - Conditional GAN
好记性不如烂笔头
10-15 351
Conditional GAN 最初的GAN是输入随机向量，输出一幅图像，这样的话，生成的图像是随机的，不可控的。 Conditional GAN是在输入的地方加上条件限制，譬如，配上文字介绍，生成的图像就是与文字相关的图像 使用传统的supervised learning做到这种需求的方法 右上角是准备的训练数据（文字描述与图像的pairs） 这种方法的缺点： 对于train，训练集中可能有多...
李宏毅 GAN课程PDF讲义分享-附件资源
03-05
李宏毅 GAN课程PDF讲义分享-附件资源
李宏毅 GAN PPT
12-07
结合标签“深度学习 GAN 李宏毅”，我们可以推测这个压缩包包含的内容将覆盖以下主题： 1. **深度学习基础**：在深入GANs之前，可能先会介绍深度学习的基本概念，如神经网络架构、反向传播、损失函数等。 2. **...
李宏毅学习笔记的PDF版
04-22
李宏毅老师的机器学习视频是机器学习领域经典的中文视频之一，也被称为中文世界中最好的机器学习视频。李老师以幽默风趣的上课风格让很多晦涩难懂的机器学习理论变得轻松易懂，并且老师会通过很多有趣的例子结合机器...
InfoGan学习笔记
12-10
InfoGan学习笔记，介绍了一些基本的infogan需要的知识和原论文的情况
李宏毅深度学习GAN课程PPT
06-08
通过学习李宏毅教授的深度学习GAN课程，你可以系统地掌握生成式对抗网络的核心概念，进一步提升在深度学习领域的理论知识和实践技能。无论是对学术研究还是工业界应用，这都将是一份宝贵的参考资料。
李宏毅机器学习笔记：GAN
qq_43711697的博客
08-30 4754
前言 主要记录李宏毅机器学习2021中介绍GAN部分的笔记，从GAN的发展开始到GAN的基本理论再到GAN生成的评价方法最后到介绍流行的GAN方法。 一、GAN的基本介绍 GAN的全名是Generative Adversarial Network生成对抗网络，其主要的目的是为了让训练机器让机器能够自主生成相对应类型的图片，其中生成器generator就是GAN中进行生成相对应类似分布的网络，而鉴别器Discriminator就是判别生成器生成是否为真假的网络，鉴别器通过将输入的图像转换成一个判别值来判断真
【学习笔记-李宏毅】GAN（生成对抗网络）全系列（一）
zhaohongfei_358的博客
07-06 2720
前言 相关链接 1. Introduction 1. 1 Basic Idea of GAN 1.2 GAN as structured learning 1.3 Generator可以自己学吗？ VAE（Variational Auto-encoder） 2. CGAN, Conditional Generation by GAN 2.1 discriminator的架构改进 2.2 Stack GAN 2.3 Image-to-image 2.4 Speech Enhancement（提升语音的质量）
[李宏毅老师深度学习视频] 生成式对抗网络(GAN)【持续更新】
Bessie_Lee
08-26 1301
在李宏毅老师的视频中，并没有一开始就讲解什么是GAN，他先引入一个问题，为什么会有生成式对抗网络呢？他采用了一个小游戏进行介绍。游戏说明：一个小精灵可以从一个出发点出发到任意画面的位置去，我们根据小精灵的到达位置去训练一个network模型，从而预测到小精灵的位置。然而，出现了一个很离谱的画面：小精灵在转弯的时候居然分裂成了两个，还带上了虚影（？？这是什么离谱位置，转弯不成，直接分裂人物？？）为什么会有这种分裂的问题出现呢？...
李宏毅机器学习作业6-使用GAN生成动漫人物脸
iwill323的博客
11-17 2567
使用GAN生成动漫人物脸
李宏毅机器学习笔记-GAN
nousefully的博客
08-18 574
无
李宏毅老师《机器学习》课程笔记-6 GAN
宁萌Julie的博客
06-16 1140
介绍GAN(Generative Adversarial Model)。
​李宏毅机器学习——对抗生成网络（GAN）
iwill323的博客
10-24 2500
​李宏毅机器学习——对抗生成网络（GAN）
李宏毅2020机器学习笔记attention
08-12
在李宏毅的2020机器学习笔记中，有一个关于注意力机制(Attention)的部分。这部分内容主要介绍了生成模型(Generation)、注意力(Attention)、生成的技巧(Tips for Generation)以及指针网络(Pointer Network)。在生成模型中，主要讲述了如何生成一个有结构的对象。接下来介绍了注意力机制，包括一些有趣的技术，比如图片生成句子等。在生成的技巧部分，提到了一些新的技术以及可能遇到的问题和偏差，并给出了相应的解决方案。最后，稍微提到了强化学习。其中还提到了在输出"machine"这个单词时，只需要关注"机器"这个部分，而不必考虑输入中的"学习"这个部分。这样可以得到更好的结果。另外，还提到了关于产生"ei"的方法，其中有研究应用了连续动态模型自注意力(Self-attention)来学习位置编码的方法。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [2020李宏毅机器学习笔记-Condition Generation by RNN&Attention](https://blog.csdn.net/zn961018/article/details/117593813)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [李宏毅机器学习学习笔记：Self-attention](https://blog.csdn.net/weixin_44455827/article/details/128094176)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值