神经网络
文章平均质量分 56
sherry颖
这个作者很懒,什么都没留下…
展开
-
GAN学习笔记:生成对抗网络
看了Ian大神的论文,学习一下GAN。 一、基本介绍 生成对抗网络由两部分组成:Generatative model 和 Discriminative model,以下分别简称为G 和 D。 在GAN中,训练集是无标签数据集data,G接受数据z,产生G(z),而D判定G产生的数据是来自于真实数据data还是由G产生的。在训练过程中,双方不断优化自己,直到D无法再区分真实数据和G产生的数据,原创 2017-12-05 11:26:00 · 505 阅读 · 0 评论 -
GAN学习笔记:MMGAN:Manifold-Matching Generative Adversarial Network
一、主要思想 MMGAN的一个重要思想在于:数据可以分为两个不同的manifold:真实数据和生成数据。 那么,训练G的目标就是尽可能地match这两个manifold。 在MMGAN中,不妨用球形来表示manifold,这样,可以使用指数平滑来得到球的中心和半径,此外,针对mode collapse的问题,MMGAN也进行了相关的工作来提升数据的diversity,接下来会具体介绍。 二原创 2017-12-06 11:11:48 · 2347 阅读 · 1 评论 -
GAN学习笔记:WGAN
今天来学习一下大名鼎鼎的WGAN。 传统的GAN存在着一些问题,比如在D训练的太强的时候,G会出现梯度消失的问题,亦或由于KL散度的不对称性,GAN也容易出现mode collapse的现象。 一、距离函数 WGAN中一个很重要的工作就是提出了EM距离,也称推土机距离。 先来看一下几个常用的距离和EM距离。 TV(Total Variation)距离: KL距离: J原创 2017-12-07 11:16:00 · 1785 阅读 · 0 评论