深度学习Day-27：生成对抗网络（GAN）入门

Point__Nemo

于 2024-07-30 19:57:24 发布

阅读量633

点赞数 4

文章标签：深度学习算法人工智能

本文链接：https://blog.csdn.net/m0_51359915/article/details/140804830

版权

🍨 本文为：[🔗365天深度学习训练营] 中的学习记录博客
🍖 原作者：[K同学啊 | 接辅导、项目定制]

要求：

了解什么是生成对抗网络
生成对抗网络结构是怎么样的
学习本文代码，并跑通代码
调用训练好的模型生成新图像（进阶）

一、基础配置

语言环境：Python3.8
编译器选择：Pycharm
深度学习环境：

- torch==1.12.1+cu113
- torchvision==0.13.1+cu113

二、前期准备

1. 定义超参数

import os
import numpy as np
import torchvision.transforms as transforms
from torchvision.utils import save_image
from torch.utils.data import DataLoader
from torchvision import datasets
from torch.autograd import Variable
import torch.nn as nn
import torch

## 创建文件夹
os.makedirs("./images/", exist_ok=True)  ## 记录训练过程的图片效果
os.makedirs("./save/", exist_ok=True)  ## 训练完成时模型保存的位置
os.makedirs("./datasets/mnist", exist_ok=True)  ## 下载数据集存放的位置

## 超参数配置
n_epochs = 50
batch_size = 512
lr = 0.0002
b1 = 0.5
b2 = 0.999
n_cpu = 2
latent_dim = 100
img_size = 28
channels = 1
sample_interval = 500

## 图像的尺寸:(1， 28， 28),  和图像的像素面积:(784)
img_shape = (channels, img_size, img_size)
img_area = np.prod(img_shape)

## 设置cuda:(cuda:0)
cuda = True if torch.cuda.is_available() else False
print(cuda)

2.下载数据

运行下述代码：

## mnist数据集下载
mnist = datasets.MNIST(
    root='./datasets/', train=True, download=True, transform=transforms.Compose(
        [transforms.Resize(img_size), transforms.ToTensor(), transforms.Normalize([0.5], [0.5])]),
)

3. 配置数据

## 配置数据到加载器
dataloader = DataLoader(
    mnist,
    batch_size=batch_size,
    shuffle=True,
)

4.搭建模型

4.1.定义鉴别器

class Discriminator(nn.Module):
    def __init__(self):
        super(Discriminator, self).__init__()
        self.model = nn.Sequential(
            nn.Linear(img_area, 512),  # 输入特征数为784，输出为512
            nn.LeakyReLU(0.2, inplace=True),  # 进行非线性映射
            nn.Linear(512, 256),  # 输入特征数为512，输出为256
            nn.LeakyReLU(0.2, inplace=True),  # 进行非线性映射
            nn.Linear(256, 1),  # 输入特征数为256，输出为1
            nn.Sigmoid(),  # sigmoid是一个激活函数，二分类问题中可将实数映射到[0, 1],作为概率值, 多分类用softmax函数
        )

    def forward(self, img):
        img_flat = img.view(img.size(0), -1)  # 鉴别器输入是一个被view展开的(784)的一维图像:(64, 784)
        validity = self.model(img_flat)  # 通过鉴别器网络
        return validity  # 鉴别器返回的是一个[0, 1]间的概率

4.2.定义生成器

class Generator(nn.Module):
    def __init__(self):
        super(Generator, self).__init__()

        ## 模型中间块儿
        def block(in_feat, out_feat, normalize=True):  # block(in， out )
            layers = [nn.Linear(in_feat, out_feat)]  # 线性变换将输入映射到out维
            if normalize:
                layers.append(nn.BatchNorm1d(out_feat, 0.8))  # 正则化
            layers.append(nn.LeakyReLU(0.2, inplace=True))  # 非线性激活函数
            return layers

        ## prod():返回给定轴上的数组元素的乘积:1*28*28=784
        self.model = nn.Sequential(
            *block(latent_dim, 128, normalize=False),  # 线性变化将输入映射 100 to 128, 正则化, LeakyReLU
            *block(128, 256),  # 线性变化将输入映射 128 to 256, 正则化, LeakyReLU
            *block(256, 512),  # 线性变化将输入映射 256 to 512, 正则化, LeakyReLU
            *block(512, 1024),  # 线性变化将输入映射 512 to 1024, 正则化, LeakyReLU
            nn.Linear(1024, img_area),  # 线性变化将输入映射 1024 to 784
            nn.Tanh()  # 将(784)的数据每一个都映射到[-1, 1]之间
        )

    ## view():相当于numpy中的reshape，重新定义矩阵的形状:这里是reshape(64, 1, 28, 28)
    def forward(self, z):  # 输入的是(64， 100)的噪声数据
        imgs = self.model(z)  # 噪声数据通过生成器模型
        imgs = imgs.view(imgs.size(0), *img_shape)  # reshape成(64, 1, 28, 28)
        return imgs  # 输出为64张大小为(1, 28, 28)的图像

三、训练模型

1. 创建实例

## 创建生成器，判别器对象
generator = Generator()
discriminator = Discriminator()

## 首先需要定义loss的度量方式  （二分类的交叉熵）
criterion = torch.nn.BCELoss()

## 其次定义 优化函数,优化函数的学习率为0.0003
## betas:用于计算梯度以及梯度平方的运行平均值的系数
optimizer_G = torch.optim.Adam(generator.parameters(), lr=lr, betas=(b1, b2))
optimizer_D = torch.optim.Adam(discriminator.parameters(), lr=lr, betas=(b1, b2))

## 如果有显卡，都在cuda模式中运行
if torch.cuda.is_available():
    generator = generator.cuda()
    discriminator = discriminator.cuda()
    criterion = criterion.cuda()

2. 训练模型

for epoch in range(n_epochs):  # epoch:50
    for i, (imgs, _) in enumerate(dataloader):  # imgs:(64, 1, 28, 28)     _:label(64)

        imgs = imgs.view(imgs.size(0), -1)  # 将图片展开为28*28=784  imgs:(64, 784)
        real_img = Variable(imgs).cuda()  # 将tensor变成Variable放入计算图中，tensor变成variable之后才能进行反向传播求梯度
        real_label = Variable(torch.ones(imgs.size(0), 1)).cuda()  ## 定义真实的图片label为1
        fake_label = Variable(torch.zeros(imgs.size(0), 1)).cuda()  ## 定义假的图片的label为0

        real_out = discriminator(real_img)  # 将真实图片放入判别器中
        loss_real_D = criterion(real_out, real_label)  # 得到真实图片的loss
        real_scores = real_out  # 得到真实图片的判别值，输出的值越接近1越好
        ## 计算假的图片的损失
        ## detach(): 从当前计算图中分离下来避免梯度传到G，因为G不用更新
        z = Variable(torch.randn(imgs.size(0), latent_dim)).cuda()  ## 随机生成一些噪声, 大小为(128, 100)
        fake_img = generator(z).detach()  ## 随机噪声放入生成网络中，生成一张假的图片。
        fake_out = discriminator(fake_img)  ## 判别器判断假的图片
        loss_fake_D = criterion(fake_out, fake_label)  ## 得到假的图片的loss
        fake_scores = fake_out
        ## 损失函数和优化
        loss_D = loss_real_D + loss_fake_D  # 损失包括判真损失和判假损失
        optimizer_D.zero_grad()  # 在反向传播之前，先将梯度归0
        loss_D.backward()  # 将误差反向传播
        optimizer_D.step()  # 更新参数

        z = Variable(torch.randn(imgs.size(0), latent_dim)).cuda()  ## 得到随机噪声
        fake_img = generator(z)  ## 随机噪声输入到生成器中，得到一副假的图片
        output = discriminator(fake_img)  ## 经过判别器得到的结果
        ## 损失函数和优化
        loss_G = criterion(output, real_label)  ## 得到的假的图片与真实的图片的label的loss
        optimizer_G.zero_grad()  ## 梯度归0
        loss_G.backward()  ## 进行反向传播
        optimizer_G.step()  ## step()一般用在反向传播后面,用于更新生成网络的参数

        ## 打印训练过程中的日志
        ## item():取出单元素张量的元素值并返回该值，保持原元素类型不变
        if (i + 1) % 100 == 0:
            print(
                "[Epoch %d/%d] [Batch %d/%d] [D loss: %f] [G loss: %f] [D real: %f] [D fake: %f]"
                % (epoch, n_epochs, i, len(dataloader), loss_D.item(), loss_G.item(), real_scores.data.mean(),
                   fake_scores.data.mean())
            )
        ## 保存训练过程中的图像
        batches_done = epoch * len(dataloader) + i
        if batches_done % sample_interval == 0:
            save_image(fake_img.data[:25], "./images/%d.png" % batches_done, nrow=5, normalize=True)

得到如下输出：

[Epoch 0/50] [Batch 99/118] [D loss: 1.358119] [G loss: 0.854631] [D real: 0.828902] [D fake: 0.651636]
[Epoch 1/50] [Batch 99/118] [D loss: 1.133802] [G loss: 0.875813] [D real: 0.669196] [D fake: 0.512738]
[Epoch 2/50] [Batch 99/118] [D loss: 1.092905] [G loss: 0.928318] [D real: 0.596505] [D fake: 0.426318]
[Epoch 3/50] [Batch 99/118] [D loss: 1.170596] [G loss: 0.856016] [D real: 0.474676] [D fake: 0.308923]
[Epoch 4/50] [Batch 99/118] [D loss: 1.137071] [G loss: 1.499401] [D real: 0.748560] [D fake: 0.554068]
[Epoch 5/50] [Batch 99/118] [D loss: 1.107893] [G loss: 0.926190] [D real: 0.532273] [D fake: 0.344259]
[Epoch 6/50] [Batch 99/118] [D loss: 0.982400] [G loss: 1.729913] [D real: 0.745666] [D fake: 0.483679]
[Epoch 7/50] [Batch 99/118] [D loss: 0.939210] [G loss: 1.378411] [D real: 0.751248] [D fake: 0.463029]
[Epoch 8/50] [Batch 99/118] [D loss: 0.944242] [G loss: 1.400929] [D real: 0.684620] [D fake: 0.410933]
[Epoch 9/50] [Batch 99/118] [D loss: 1.319004] [G loss: 2.674909] [D real: 0.846857] [D fake: 0.665650]
[Epoch 10/50] [Batch 99/118] [D loss: 0.990556] [G loss: 1.723803] [D real: 0.706130] [D fake: 0.444029]
[Epoch 11/50] [Batch 99/118] [D loss: 0.954127] [G loss: 1.318436] [D real: 0.581514] [D fake: 0.247630]
[Epoch 12/50] [Batch 99/118] [D loss: 0.974208] [G loss: 1.197314] [D real: 0.622621] [D fake: 0.352450]
[Epoch 13/50] [Batch 99/118] [D loss: 0.975531] [G loss: 1.204608] [D real: 0.599850] [D fake: 0.319579]
[Epoch 14/50] [Batch 99/118] [D loss: 0.804716] [G loss: 1.438551] [D real: 0.697204] [D fake: 0.322416]
[Epoch 15/50] [Batch 99/118] [D loss: 0.974637] [G loss: 1.892112] [D real: 0.731586] [D fake: 0.457425]
[Epoch 16/50] [Batch 99/118] [D loss: 1.010618] [G loss: 1.973964] [D real: 0.773618] [D fake: 0.509037]
[Epoch 17/50] [Batch 99/118] [D loss: 1.039451] [G loss: 0.909313] [D real: 0.478101] [D fake: 0.154255]
[Epoch 18/50] [Batch 99/118] [D loss: 0.903574] [G loss: 1.223073] [D real: 0.581385] [D fake: 0.212841]
[Epoch 19/50] [Batch 99/118] [D loss: 0.980628] [G loss: 1.094885] [D real: 0.574129] [D fake: 0.278985]
[Epoch 20/50] [Batch 99/118] [D loss: 0.911209] [G loss: 1.193374] [D real: 0.607967] [D fake: 0.278935]
[Epoch 21/50] [Batch 99/118] [D loss: 1.162250] [G loss: 2.464992] [D real: 0.859242] [D fake: 0.614595]
[Epoch 22/50] [Batch 99/118] [D loss: 0.886364] [G loss: 1.460998] [D real: 0.680276] [D fake: 0.342425]
[Epoch 23/50] [Batch 99/118] [D loss: 0.745030] [G loss: 1.674799] [D real: 0.740911] [D fake: 0.318460]
[Epoch 24/50] [Batch 99/118] [D loss: 0.838446] [G loss: 1.577401] [D real: 0.719997] [D fake: 0.351009]
[Epoch 25/50] [Batch 99/118] [D loss: 0.787986] [G loss: 1.436635] [D real: 0.690589] [D fake: 0.275540]
[Epoch 26/50] [Batch 99/118] [D loss: 0.788522] [G loss: 1.810806] [D real: 0.750961] [D fake: 0.351278]
[Epoch 27/50] [Batch 99/118] [D loss: 0.753224] [G loss: 1.290582] [D real: 0.661438] [D fake: 0.182648]
[Epoch 28/50] [Batch 99/118] [D loss: 0.883731] [G loss: 1.140509] [D real: 0.588566] [D fake: 0.180261]
[Epoch 29/50] [Batch 99/118] [D loss: 0.903187] [G loss: 1.285718] [D real: 0.570227] [D fake: 0.154226]
[Epoch 30/50] [Batch 99/118] [D loss: 0.777330] [G loss: 1.491624] [D real: 0.698211] [D fake: 0.256135]
[Epoch 31/50] [Batch 99/118] [D loss: 1.068173] [G loss: 0.707813] [D real: 0.504247] [D fake: 0.173714]
[Epoch 32/50] [Batch 99/118] [D loss: 0.887443] [G loss: 1.093637] [D real: 0.608482] [D fake: 0.204210]
[Epoch 33/50] [Batch 99/118] [D loss: 0.900112] [G loss: 2.071476] [D real: 0.783667] [D fake: 0.428811]
[Epoch 34/50] [Batch 99/118] [D loss: 0.984621] [G loss: 2.191275] [D real: 0.865837] [D fake: 0.539177]
[Epoch 35/50] [Batch 99/118] [D loss: 0.811297] [G loss: 1.447091] [D real: 0.684229] [D fake: 0.278086]
[Epoch 36/50] [Batch 99/118] [D loss: 0.855922] [G loss: 1.334665] [D real: 0.586626] [D fake: 0.127038]
[Epoch 37/50] [Batch 99/118] [D loss: 0.790842] [G loss: 2.243885] [D real: 0.839149] [D fake: 0.423923]
[Epoch 38/50] [Batch 99/118] [D loss: 0.842804] [G loss: 1.557674] [D real: 0.702306] [D fake: 0.316344]
[Epoch 39/50] [Batch 99/118] [D loss: 0.700674] [G loss: 1.459940] [D real: 0.715495] [D fake: 0.239821]
[Epoch 40/50] [Batch 99/118] [D loss: 1.004132] [G loss: 2.275932] [D real: 0.782830] [D fake: 0.486044]
[Epoch 41/50] [Batch 99/118] [D loss: 0.893716] [G loss: 1.230096] [D real: 0.653264] [D fake: 0.297629]
[Epoch 42/50] [Batch 99/118] [D loss: 0.803412] [G loss: 1.524267] [D real: 0.698426] [D fake: 0.286330]
[Epoch 43/50] [Batch 99/118] [D loss: 0.964831] [G loss: 2.093666] [D real: 0.814177] [D fake: 0.483912]
[Epoch 44/50] [Batch 99/118] [D loss: 0.826310] [G loss: 1.482098] [D real: 0.705200] [D fake: 0.309380]
[Epoch 45/50] [Batch 99/118] [D loss: 0.862298] [G loss: 1.375562] [D real: 0.680220] [D fake: 0.309462]
[Epoch 46/50] [Batch 99/118] [D loss: 1.084897] [G loss: 0.787066] [D real: 0.508777] [D fake: 0.168071]
[Epoch 47/50] [Batch 99/118] [D loss: 1.214089] [G loss: 0.794297] [D real: 0.480335] [D fake: 0.182916]
[Epoch 48/50] [Batch 99/118] [D loss: 0.847767] [G loss: 1.546502] [D real: 0.701518] [D fake: 0.327755]
[Epoch 49/50] [Batch 99/118] [D loss: 1.136368] [G loss: 1.930105] [D real: 0.786755] [D fake: 0.547514]

Process finished with exit code 0

3. 保存模型

torch.save(generator.state_dict(), './generator.pth')
torch.save(discriminator.state_dict(), './discriminator.pth')

四、理论基础

生成对抗网络（Generative Adversarial Networks, GAN）并不指代某一个具体的神经网络，而是指一类基于博弈思想而设计的神经网络。GAN由两个分别被称为生成器（Generator）和判别器（Discriminator）的神经网络组成。其中，生成器从某种噪声分布中随机采样作为输入，输出与训练集中真实样本非常相似的人工样本；判别器的输入则为真实样本或人工样本，其目的是将人工样本与真实样本尽可能地区分出来。生成器和判别器交替运行，相互博弈，各自的能力都得到升。理想情况下，经过足够次数的博弈之后，判别器无法判断给定样本的真实性，即对于所有样本都输出50%真，50%假的判断。此时，生成器输出的人工样本已经逼真到使判别器无法分辨真假，停止博弈。这样就可以得到一个具有“伪造”真实样本能力的生成器。

1. 生成器

GANs中，生成器 G 选取随机噪声 z 作为输入，通过生成器的不断拟合，最终输出一个和真实样本尺寸相同，分布相似的伪造样本G(z)。生成器的本质是一个使用生成式方法的模型，它对数据的分布假设和分布参数进行学习，然后根据学习到的模型重新采样出新的样本。
从数学上来说，生成式方法对于给定的真实数据，首先需要对数据的显式变量或隐含变量做分布假设；然后再将真实数据输入到模型中对变量、参数进行训练；最后得到一个学习后的近似分布，这个分布可以用来生成新的数据。从机器学习的角度来说，模型不会去做分布假设，而是通过不断地学习真实数据，对模型进行修正，最后也可以得到一个学习后的模型来做样本生成任务。这种方法不同于数学方法，学习的过程对人类理解较不直观。

2. 判别器

GANs中，判别器 D 对于输入的样本 x，输出一个[0,1]之间的概率数值D(x)。x 可能是来自于原始数据集中的真实样本 x，也可能是来自于生成器 G 的人工样本G(z)。通常约定，概率值D(x)越接近于1就代表此样本为真实样本的可能性更大；反之概率值越小则此样本为伪造样本的可能性越大。也就是说，这里的判别器是一个二分类的神经网络分类器，目的不是判定输入数据的原始类别，而是区分输入样本的真伪。可以注意到，不管在生成器还是判别器中，样本的类别信息都没有用到，也表明 GAN 是一个无监督的学习过程。

3. 基本原理

GAN是博弈论和机器学习相结合的产物，研究者最初想要通过计算机完成自动生成数据的功能，例如通过训练某种算法模型，让某模型学习过一些苹果的图片后能自动生成苹果的图片，具备些功能的算法即认为具有生成功能。但是GAN不是第一个生成算法，而是以往的生成算法在衡量生成图片和真实图片的差距时采用均方误差作为损失函数，但是研究者发现有时均方误差一样的两张生成图片效果却截然不同，鉴于此不足Ian Goodfellow提出了GAN。

如图1所示，GAN是由两个模型组成的：生成模型G和判别模型D。首先第一代生成模型1G的输入是随机噪声z，然后生成模型会生成一张初级照片，训练一代判别模型1D另其进行二分类操作，将生成的图片判别为0，而真实图片判别为1；为了欺瞒一代鉴别器，于是一代生成模型开始优化，然后它进阶成了二代，当它生成的数据成功欺瞒1D时，鉴别模型也会优化更新，进而升级为2D，按照同样的过程也会不断更新出N代的G和D。

Point__Nemo

关注

4
点赞
踩
8

收藏

觉得还不错? 一键收藏
0
评论
深度学习Day-27：生成对抗网络（GAN）入门

import os## 创建文件夹os.makedirs("./images/", exist_ok=True) ## 记录训练过程的图片效果os.makedirs("./save/", exist_ok=True) ## 训练完成时模型保存的位置os.makedirs("./datasets/mnist", exist_ok=True) ## 下载数据集存放的位置## 超参数配置b1 = 0.5b2 = 0.999n_cpu = 2。
复制链接

扫一扫