李宏毅《机器学习》课程笔记(作业十一:GAN)

GAN包含辨别器和生成器,是一个对抗的关系,用adversarial。是无监督的学习方式。可以将其看成老师和学生的关系。注意辨别器和生成器是轮流训练的,输入是一个随机的向量,最后的输出是一个标量。训练一个的时候把另外一个固定住不更新梯度值。对于辨别器,优化目标是两个部分,使得真实图像得分高而生成的图像得分低。结构化学习,输出不再是一个简单的向量,而是一个句子,一张图片或者一棵树等等。One-shot learning, 如果我们把每一张图片看做一个class,所以每个类别只出现一次,有些甚至
摘要由CSDN通过智能技术生成

GAN包含辨别器和生成器,是一个对抗的关系,用adversarial。是无监督的学习方式。

可以将其看成老师和学生的关系。

注意辨别器和生成器是轮流训练的,输入是一个随机的向量,最后的输出是一个标量。训练一个的时候把另外一个固定住不更新梯度值。对于辨别器,优化目标是两个部分,使得真实图像得分高而生成的图像得分低。

结构化学习,输出不再是一个简单的向量,而是一个句子,一张图片或者一棵树等等。

One-shot learning, 如果我们把每一张图片看做一个class,所以每个类别只出现一次,有些甚至一次也没有出现过。

理论上用之前讲的自动编码器也可以生成图片,但是自动编码器在判断生成的图片与真实图片的距离的时候,不好定义loss,因为一个像素差别可能还不如6个像素的差别。一般来说使用自动编码器生成图片往往需要更大的网络才能生成更GAN接近的图片。

用单独的生成器和辨别器也可以生成,单独用生成器的话,无法学习到全局的信息,如果用单独辨别器的话,要生成图片的话太困难了,要解一个很难的argmax的问题。

所以我们用GAN的话其实是用生成器来解那个argmax的问题

有条件的生成:比如输入一个文字,输出一个对应的图片,而不是输入一个随机值。原来的GAN中的辨别器不需要管输入的随机值,只要产生清晰的图就好了。现在需要同时看生成器的输入和输出。

注意这个时候需要输入图片和文字的pair,作为真实数据,另外生成虚假的数据。

现在的辨别器优化的目标包括,本身的好坏,配对的好坏,

StackGAN先产生小的图,再用小图作为输入产生大的图。

无监督的条件生成,有两种方法

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值