生成网络GAN，CGAN，WGAN，infoGAN

最新推荐文章于 2024-02-15 17:32:46 发布
最新推荐文章于 2024-02-15 17:32:46 发布
阅读量524 收藏 1
点赞数
文章标签： 生成网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41012399/article/details/91046846
版权

生成对抗神经网络GAN
最原始的论文Generative Adversarial Networks
D的目标函数：max log(D(x))+log(1-D(G(z)))
G的目标函数： max log(D(G(z)))
D包括两部分，让D(x)尽可能的大，让D(G(z))尽可能小，因为真实图片的对应的标签为1，生成的标签为0。D的目标是让自己能正确区分哪个是0哪个是1.
G只有一个目标，让自己生成的图片更像真实的，就是让D(G(z))尽可能的大。
结构：
在这里插入图片描述主要程序(keras)：

def __init__(self):
		...
		##建立D和G网络
        self.discriminator = self.build_discriminator()
        self.discriminator.compile(loss='binary_crossentropy',optimizer=Adam(0.0002, 0.5),
            											metrics=['accuracy'])
        self.generator = self.build_generator()
        z = Input(shape=(self.latent_dim,))
        img = self.generator(z)
		self.discriminator.trainable = False
		validity = self.discriminator(img)
		##从噪声到D的输出作为整个的模型
		self.combined = Model(z, validity)
        self.combined.compile(loss='binary_crossentropy', optimizer=optimizer)
def train(self, epochs, batch_size=128, sample_interval=50):
        valid = np.ones((batch_size, 1))  ##生成全0的标签
        fake = np.zeros((batch_size, 1))  ##生成全1的标签
        for epoch in range(epochs):
            imgs = X_train[idx]   ##真实图片
            noise = np.random.normal(0, 1, (batch_size, self.latent_dim))  ##生成噪声
            gen_imgs = self.generator.predict(noise)   ##噪声经过G的输出
            d_loss_real = self.discriminator.train_on_batch(imgs, valid)   ##用真实的训练D
            d_loss_fake = self.discriminator.train_on_batch(gen_imgs, fake)  ##用假的训练D
            d_loss = 0.5 * np.add(d_loss_real, d_loss_fake)  ##总的损失
            noise = np.random.normal(0, 1, (batch_size, self.latent_dim))
            g_loss = self.combined.train_on_batch(noise, valid)  ##训练G，因为此时D的trainable是False,所以训练整体网络就相当于训练G

注意：
**CGAN：**在GAN基础上添加标签
D的目标函数: max log(D(c,x))+log(1-D(c,x))
G的目标函数： max log(D(G(c,z))
D包括两部分部分：同上
G还是只有一个目标，输入噪声和标签时，让D认为这是真实的，不是生成的。
结构：
在这里插入图片描述
主要程序(keras)：

def __init__(self):
		...
		##建立D和G网络
        self.discriminator = self.build_discriminator()
        self.discriminator.compile(loss='binary_crossentropy',optimizer=Adam(0.0002, 0.5),
            											metrics=['accuracy'])
        self.generator = self.build_generator()
        z = Input(shape=(self.latent_dim,))
        label = Input(shape=(1,))
        img = self.generator([noise, label])
		self.discriminator.trainable = False
		valid = self.discriminator([img, label])
		##从噪声到D的输出作为整个的模型
		self.combined = Model([noise, label], valid)
        self.combined.compile(loss='binary_crossentropy', optimizer=optimizer)
def build_generator(self):
		...
        model.summary()
        noise = Input(shape=(self.latent_dim,))
        label = Input(shape=(1,), dtype='int32')
        label_embedding = Flatten()(Embedding(self.num_classes, self.latent_dim)(label))
        model_input = multiply([noise, label_embedding])  ##用keras里的multiply层把z和c乘起来当做G的输入
        img = model(model_input)
        return Model([noise, label], img)
def build_discriminator(self):
		...
        model.summary()
        img = Input(shape=self.img_shape)
        label = Input(shape=(1,), dtype='int32')
        label_embedding = Flatten()(Embedding(self.num_classes, np.prod(self.img_shape))(label))
        flat_img = Flatten()(img)
        model_input = multiply([flat_img, label_embedding]) #把输入图片拉成向量再和标签相乘当做D的输入
        validity = model(model_input) 
        return Model([img, label], validity)
def train(self, epochs, batch_size=128, sample_interval=50):
		...
        valid = np.ones((batch_size, 1))  ##生成全0的标签
        fake = np.zeros((batch_size, 1))  ##生成全1的标签
        for epoch in range(epochs):
            imgs, labels = X_train[idx], y_train[idx]
            noise = np.random.normal(0, 1, (batch_size, 100))
            gen_imgs = self.generator.predict([noise, labels])    
            d_loss_real = self.discriminator.train_on_batch([imgs, labels], valid)   
            d_loss_fake = self.discriminator.train_on_batch([gen_imgs, labels], fake) 
            d_loss = 0.5 * np.add(d_loss_real, d_loss_fake)
            sampled_labels = np.random.randint(0, 10, batch_size).reshape(-1, 1)  #随机生成一个标签，这里是对mnist数据集
            g_loss = self.combined.train_on_batch([noise, sampled_labels], valid)

**WGAN：**在GAN基础上限制权值.
分析了Kullback–Leibler divergence（简称KL散度）和Jensen-Shannon divergence（简称JS散度）这两个重要的相似度衡量指标，提出Wasserstein距离又叫Earth-Mover（EM）距离，以后再写KL和JS散度。基于Wasserstein距离的优越性，把他作为生成器的loss。所以WGAN提出的新的目标函数：
D的目标函数：
在这里插入图片描述
G的目标函数：
在这里插入图片描述
结构：
在这里插入图片描述
主要程序(keras)：

def __init__(self):
		...
		##建立D和G网络
        self.critic = self.build_critic()
        self.discriminator.compile(loss=self.wasserstein_loss,optimizer=RMSprop(lr=0.00005),
            									metrics=['accuracy'])   ##损失函数和优化函数都变了
        self.generator = self.build_generator()
        z = Input(shape=(self.latent_dim,))
        img = self.generator(z)
		self.discriminator.trainable = False
		valid = self.critic(img)
		##从噪声到D的输出作为整个的模型
		self.combined = Model(z, valid)
        self.combined.compile(loss=self.wasserstein_loss,optimizer=RMSprop(lr=0.00005),metrics=['accuracy'])
def wasserstein_loss(self, y_true, y_pred):
        return K.mean(y_true * y_pred)
def train(self, epochs, batch_size=128, sample_interval=50):
		valid = -np.ones((batch_size, 1))   ##生成全为-1的标签
        fake = np.ones((batch_size, 1))    ##生成全为1的标签
        for epoch in range(epochs):
            imgs = X_train[idx]   ##真实图片
            noise = np.random.normal(0, 1, (batch_size, self.latent_dim))  ##生成噪声
            gen_imgs = self.generator.predict(noise)   ##噪声经过G的输出
            d_loss_real = self.discriminator.train_on_batch(imgs, valid)   ##用真实的训练D
            d_loss_fake = self.discriminator.train_on_batch(gen_imgs, fake)  ##用假的训练D
            d_loss = 0.5 * np.add(d_loss_real, d_loss_fake)  ##总的损失
            ###缩减权值
            for l in self.critic.layers:
                    weights = l.get_weights()  ##D网络的每个权值
                    weights = [np.clip(w, -self.clip_value, self.clip_value) for w in weights]   ##np.clip截取的意思，超出的部分就把它 强置为边界部分。 self.clip_value是网络最开始的时候设置的
                    l.set_weights(weights) 
            g_loss = self.combined.train_on_batch(noise, valid)   ##训练G

**infoGAN:`**解决隐变量可解释性问题，生成具有某种特征的图像。
在原始的噪声z上人为地加上一些限制，于是z就分解成两部分：一是原来的z；二是由若干个latent variables拼接而成的latent code c，c由两类组成，一类是离散变量（如mnist数据0-9的标签），另一类是连续随机变量（如mnist图片的特征加粗倾斜等）。两种变量的熵的计算方法不同。

增加了互信息来表示x和c之间的关联程度，越相关越好，所以就是求互信息的最大值，增加互信息的正则化项，增加的超参数通过实验取最优值。
互信息在决策树里边用到过，这里先介绍熵的概念
熵H(X)：表示随机变量x的不确定性，熵越大不确定性越大。
条件熵H(Y|X)：表示在已知随机变量X的条件下随机变量Y的不确定性。
互信息：H(Y)-H(Y|X)
信息增益（互信息）：g(D,A)=H(D)-H(D|A),表示由于特征A而使得对数据集D的分类的不确定减少的程度。所以在决策树里信息增益大的特征具有更强的分类能力。
目标函数：
在这里插入图片描述
结构：
在这里插入图片描述
主要程序(keras)：

def __init__(self):
    optimizer = Adam(0.0002, 0.5)
    losses = ['binary_crossentropy', self.mutual_info_loss]
    self.discriminator, self.auxilliary = self.build_disk_and_q_net()  ##D网络接了两个尾巴，组成两个网络，一个是和GAN一样的D网络，另一个是softmax分类网络叫做A网络吧
    self.discriminator.compile(loss=['binary_crossentropy'],optimizer=optimizer,metrics=['accuracy'])  ##D网络计算二分类损失
    self.auxilliary.compile(loss=[self.mutual_info_loss], optimizer=optimizer,metrics=['accuracy'])  ##A网络计算一个新的损失
    self.generator = self.build_generator()  ##和GAN的G网络一样，没做改变
    gen_input = Input(shape=(self.latent_dim,))
    img = self.generator(gen_input)
    self.discriminator.trainable = False
    valid = self.discriminator(img)
    target_label = self.auxilliary(img)
    self.combined = Model(gen_input, [valid, target_label])
    self.combined.compile(loss=losses,optimizer=optimizer)
def mutual_info_loss(self, c, c_given_x):
    eps = 1e-8
    conditional_entropy = K.mean(- K.sum(K.log(c_given_x + eps) * c, axis=1))
    entropy = K.mean(- K.sum(K.log(c + eps) * c, axis=1))
    return conditional_entropy + entropy   
def build_disk_and_q_net(self):
    ...
    img_embedding = model(img)
    # Discriminator
    validity = Dense(1, activation='sigmoid')(img_embedding)
    # Recognition
    q_net = Dense(128, activation='relu')(img_embedding)
    label = Dense(self.num_classes, activation='softmax')(q_net)
    # Return discriinator and recognition network
    return Model(img, validity), Model(img, label)
def sample_generator_input(self, batch_size):
    # Generator inputs
    sampled_noise = np.random.normal(0, 1, (batch_size, 62))
    sampled_labels = np.random.randint(0, self.num_classes, batch_size).reshape(-1, 1)
    sampled_labels = to_categorical(sampled_labels, num_classes=self.num_classes)
    return sampled_noise, sampled_labels   
def train(self, epochs, batch_size=128, sample_interval=50):
	...
    valid = np.ones((batch_size, 1))
    fake = np.zeros((batch_size, 1))
    for epoch in range(epochs):
        imgs = X_train[idx]
        sampled_noise, sampled_labels = self.sample_generator_input(batch_size)
        gen_input = np.concatenate((sampled_noise, sampled_labels), axis=1)
        gen_imgs = self.generator.predict(gen_input)
        d_loss_real = self.discriminator.train_on_batch(imgs, valid)
        d_loss_fake = self.discriminator.train_on_batch(gen_imgs, fake)
        d_loss = 0.5 * np.add(d_loss_real, d_loss_fake)
        g_loss = self.combined.train_on_batch(gen_input, [valid, sampled_labels])

程序参考
https://github.com/eriklindernoren/Keras-GAN

cv-daily
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
GAN（Generative Adversarial Network，GAN）模型之：InfoGAN、WGAN、DCGAN模型
data+scenario+science+insight
06-03 194
GAN（Generative Adversarial Network，GAN）模型之：InfoGAN、WGAN、DCGAN模型 InfoGAN 为了解决定制化生成的问题，提出了InfoGAN模型。InfoGAN重新审视了隐变量，之前隐变量主要是产生随机噪声并确保变量分布可以扩展成为真实的数据分布，在这个过程中对隐变量的职责没有过多的约束。现在隐变量除了生成随机噪声之外还拥有控制生成结果的作用，为此隐变量将被分割为两部分。Z继续充当速记噪声的作用，C充当隐式变量的作用，影响最终生成的数据。那么..
生成网络的一些方式
_计算机好苦
07-01 444
import torch import torch.nn.functional as F from torch.autograd import Variable import matplotlib.pyplot as plt class Net(torch.nn.Module): def __init__(self, n_feature, n_hidden, n_output): super(Net, self).__init__() # 继承 __init__ 功能
生成网络总结
weixin_44733295的博客
01-08 1523
生成网络总结。
生成式网络与判别式网络
最新发布
m0_61949623的博客
02-15 560
生成式网络（Generative Networks）和判别式网络（Discriminative Networks）是两类在机器学习和深度学习中常见的网络类型，它们在数据处理和学习任务中扮演不同的角色。
RPN（区域生成网络）
热门推荐
查理王的博客
09-27 2万+
RPN全称是Region Proposal Network，RegionProposal的中文意思是“区域选取”，也就是“提取候选框”的意思，所以RPN就是用来提取候选框的网络。 1. RPN的意义 RPN第一次出现在世人眼中是在Faster RCNN这个结构中，专门用来提取候选框，在RCNN和Fast RCNN等物体检测架构中，用来提取候选框的方法通常是Selective Search，是比较传统的方法，而且比较耗时，在CPU上要2s一张图。所以作者提出RPN，专门用来提取候选框，一方面...
八种最常用的GAN生成式对抗网络代码框架
04-13
包括多种GAN生成试对抗网络代码框架 ACGAN.py BEGAN.py CGAN.py CVAE.py DRAGAN.py EBGAN.py GAN.py LSGAN.py VAE.py WGAN.py WGAN_GP.py infoGAN.py
独家 GAN大盘点，聊聊这些年的生成对抗网络 LSGAN, WGAN, CGAN, infoGAN, EBGAN, .htm
11-29
机器学习 深度学习 pytorch tensorflow
gan_demos.zip
08-15
4. **INFOGAN**（Information Maximizing Generative Adversarial Nets）：INFOGAN是一种信息理论驱动的GAN，旨在最大化生成器从随机噪声中提取的有用信息，从而生成更具结构性和多样性的样本。 5. **SGAN**（Semi-...
34种不同类型的GAN网络
03-16
8. **InfoGAN (Information Maximizing Generative Adversarial Networks)**: 目标是最大化生成器和判别器之间的互信息，以学习有意义的表示。 9. **CGAN+AE (Autoencoder)**: 结合自编码器，生成器不仅学习生成新...
06-[知识总结]-万字详解什么是生成对抗网络GAN？经典论文及案例普及1
08-03
随着时间的推移，GAN的研究不断深入，出现了许多变种和应用，如CGAN（条件生成对抗网络）、DCGAN（深度卷积生成对抗网络）、infoGAN（信息最大化的生成对抗网络）、WGAN（ Wasserstein GAN）等。 **GAN预备知识** ...
生成式对抗网络GAN有哪些最新的发展？
weixin_34302798的博客
10-26 419
本文讲的是生成式对抗网络GAN有哪些最新的发展？， 近期，生成对抗网络（GAN）在机器学习研究方面取得了新的进展。我们可以直接合成动物新的图像，从图像中创建3D图形，或者根据我们对图像的编辑来创建新的产物。 生成对抗网络意味着有两个神经网络在相互竞争相互比赛。生成网络尝试生成越来越多逼真的图像，并将这些图像传递给判别网络，而判别网络尝试判断真实的图像...
常用生成网络两种方式 tensorflow+ keras
weixin_38740463的博客
09-03 460
1、官方文档推荐的定义类，调用call函数 通过继承tf.keras.Model并定义自己的前向传递来构建完全可自定义的模型。 在init方法中创建图层并将它们设置为类实例的属性。 在call方法中定义正向传递。 直接返回 numpy向量 class MyModel(keras.Model): def __init__(self, num_classes=10): super(MyModel, self).__init__(name='my_model')
生死看淡，不服就GAN（七）----用更稳定的生成模型WGAN生成cifar
Pika
04-04 1873
WGAN提出Wasserstein距离取代原始GAN的JS散度衡量两分布之间距离，使模型更加稳定并消除了mode collapse问题。关于WGAN的介绍，建议参考以下博客： 令人拍案叫绝的WassersteinGAN GAN是怎么工作的 这次依然是使用cifar数据集生成马的彩色图片，上期采用DCGAN实现，关于数据集的读取和生成模型的验证请参考DCGAN教程： https://blog.csd...
InfoGAN论文理解及复现
Feynman1999的博客
01-18 3000
InfoGAN论文理解及复现 by AHU Random_Walker 主要从四个方面来了解相关工作，即 Motivation Related Work-Method Experiments Conclusion 然后有三个过程来复现代码，最后的疑问算是对整个框架和代码细节问题的汇总吧 框架 代码实现与结果 总结与疑问 参考的资料 https://arxiv.org/abs/1606....
Keras搭建ACGAN生成MNIST手写体图片
Paul_Huang的专栏
08-10 688
一. CGAN和ACGAN 1. CGAN 普通的GAN输入的是一个N维的正态分布随机数\color{red}随机数随机数，而CGAN会为这个随机数添上标签\color{red}随机数添上标签随机数添上标签； CGAN利用Embedding层将正整数（索引值）转换为固定尺寸的稠密向量\color{red}固定尺寸的稠密向量固定尺寸的稠密向量，并将这个稠密向量与N维的正态分布随机数相乘\color{red}相乘相乘，从而获得一个有标签的随机数\color{red}有标签的随机数有标签的随机数。 2. AC
TensorFlow学习日记23
NLP工程化
11-01 1239
1. MNIST AC-GAN（Auxiliary Classifier GAN）  解析： #!/usr/bin/env python # -*- coding: utf-8 -*- """ Train an Auxiliary Classifier Generative Adversarial Network (ACGAN) on the MNIST dataset. """ from
[生成对抗网络GAN入门指南]（9）ACGAN: Conditional Image Synthesis with Auxiliary Classifier GANs
gdtop的个人笔记
02-14 9853
本篇blog的内容基于原始论文ACGAN：Conditional Image Synthesis with Auxiliary Classifier GANs和《生成对抗网络入门指南》第六章。 完整代码见文章末尾 一、为什么要研究ACGAN？ 使用标签的数据集应用于生成对抗网络可以增强现有的生成模型，并形成两种优化思路。 1. cGAN使...
新手必看：生成对抗网络的初学者入门指导
weixin_30565327的博客
09-25 1091
新手必看：生成对抗网络的初学者入门指导 https://mp.weixin.qq.com/s/GqfFh83Xo6q1un1V4KIOdA 本文为 AI 研习社编译的技术博客，原标题A Beginner's Guide to Generative Adversarial Networks (GANs)。 翻译 | 江舟 校对|江舟 整理 | 志豪 ...
[生成对抗网络GAN入门指南]（10）InfoGAN: Interpretable Representation Learning by Information Maximizing GAN
gdtop的个人笔记
02-14 1113
本篇blog的内容基于原始论文InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets（NPIs2016）和《生成对抗网络入门指南》第六章。完整代码及简析见文章末尾 一、为什么要使用InfoGAN InfoGAN采用无监督的方式学习，并尝试实现可解释特...
InfoGAN：解决GANs可控生成问题的探索
本文主要探讨了InfoGAN（Information Maximizing Generative Adversarial Networks）这一生成对抗网络（GANs）的改进模型，以及其在解决GANs生成可控性问题上的应用。在传统的GANs中，生成器从先验分布随机抽样输入...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值