2018年12月_古月光军001

原创李宏毅GAN学习（八） photo editing

生成器是已经训练好的一个网络，encoder是一个跟判别器很像的网络，可以用判别器初始化encoder（最后一层除外，因为网络的输出格式不一样），然后训练网络。假如已知图片的标签，比如根据头发长短分成两类。下图左为长发，右为非长发，将长发的所有图片输入encoder，将得到的所有z求均值，再将非长发的所有图片输入encoder，将得到的所有z求均值，求两者之间的差，就是长发与非长发之间的特...

2018-12-29 19:25:11 1290

原创李宏毅GAN学习（七） feature extraction

iofoGAN一般的GAN的输入是一个随机的向量，输出是一张图片，不知道输入向量中的某一维对输出有什么影响，iofoGAN就是来做这件事的，infoGAN的网络结构如下。相比于普通的GAN，iofoGAN多了一个分类器。如果Generator学到c的每一个维度对X的影响，则Classifier可以轻易的根据x中包含的信息推出c；如果Generator没有学到c对X明确的影响，则Clas...

2018-12-29 15:15:04 894

原创李宏毅GAN学习（六）tips for improving GAN

GAN不好训练的原因：只要两个分布没有重合部分，loss都一样，也就没有办法一步一步去接近真实分布如果最后的判别器是一个sigmoid的二分类网络，并且已经训练好了，由于sigmoid两边的梯度很小，所以生成器就没有办法得到有效的学习。LSGAN（Least Square GAN）来解决这个问题由于JS散度会有不好训练的情况，而且fGAN中指出可以用不同的散度来度量两个分布之间...

2018-12-27 20:31:38 488

原创李宏毅GAN学习（五）fGAN

数学上特别吊，实际好像没什么用不同的f对应不同的divergence证明：选择不同的divergence就有不同的f*，可以解决模型坍塌的问题产生的原因：...

2018-12-27 19:21:30 622

原创李宏毅GAN学习（四）GAN的基本理论

需要用GAN来找到真实的数据分布在没有GAN之前，使用的是极大似然估计找到当我们在训练一个判别器的时候就是评估从这两个分布采样出来的数据的JS散度由上图可知，在训练GAN的生成器时，如果一次更新太多，则可能会导致，min的对象变大，但是对于判别器应该一直训练到底训练过程 ...

2018-12-27 16:53:10 585 1

原创李宏毅GAN学习（三）Unsupervised CGAN

CGAN是监督学习，需要样本标签才能训练Unsupervised CGAN训练的时候不需要样本的标签一般有两种方式完成无监督的CGAN第一种方法：direct transformation以上就是用自然风景生成一张梵高的画的网络模型结构domain X与domain Y是两个分来的数据集，两者之间没有一对一的标签生成器利用自然风景生成一张梵高的画，判别器判断其输入是...

2018-12-27 14:06:38 583

原创李宏毅GAN学习（二）CGAN

CGAN：Conditional GAN如果用手写0123456789那个数据集训练原始GAN，最终生成器生成的是0123456789，无法只产生具体的数字，比如0。CGAN可以控制输出只产生特定类别的输出。以文字生成图片为例：用传统监督学习的方式来完成这个任务：数据集是（文字描述，图片）这样的pairs输入文字，输出图片，希望网络的输出与训练集中的数据集相似。但是如果...

2018-12-26 21:42:23 1595

原创李宏毅GAN学习（一）入门

GAN的目的：找出一个生成器，给一个随机向量（vector）利用神经网络（Generator）生成一张图片一个句子或者一篇文章找出满足要求的生成器必须利用判别器，判别器判断image是真实的database里面的图片还是生成器生成的图片。生成器与判别器的训练1、固定生成器的值，训练判别器，让判别器可以分辨图片是真实的还是生成器生成的，判别器的正样本就是数据集里面的样本，负样本就...

2018-12-26 20:53:40 1128

CSDNbaiduyun的博客