PyTorch和TensorFlow生成对抗网络学习MNIST数据集

介绍

生成对抗网络（简称GAN）是最近开发的最受欢迎的机器学习算法之一。

对于人工智能（AI）领域的新手，我们可以简单地将机器学习（ML）描述为AI的子领域，它使用数据来“教”机器/程序如何执行新任务。 一个简单的例子就是使用一个人的脸部图像作为算法的输入，以便程序学会在任何给定的图片中识别同一个人（它可能也需要负样本）。 为此，我们可以将机器学习描述为应用数学优化，其中一种算法可以表示多维空间中的数据，然后学习区分新的多维矢量样本是否属于目标分布。

生成对抗网络的魔法

事实证明，他们在建模和生成高维数据方面非常成功，这就是为什么它们如此受欢迎。 然而，它们并不是生成模型的唯一类型，其他类型包括变分自动编码器（VAE），pixelCNN / pixelRNN和real NVP。 每个模型都有其自身的权衡。

一些与GAN最相关的利弊是：

• 他们目前生成最清晰的图像
• 它们易于训练（因为不需要统计推断），并且仅需要反向传播即可获得梯度
• 由于不稳定的训练动态，GAN难以优化
• 他们无法进行统计推断:GAN属于直接隐式密度模型。他们在没有明确定义概率分布函数的情况下对p（x）进行建模。

生成模型是了解当今围绕我们的大量数据的最有前途的方法之一。 根据OpenAI，能够创建数据的算法可能在本质上更好地理解世界。

生成模型可被认为比其鉴别器包含更多的信息，因为它们也可用于判别任务，例如分类或回归（目标是诸如ℝ的连续值）。 通过对联合概率分布函数进行统计推断，可以计算出此类任务大部分时间所需的条件概率分布函数$p(y\mid x)$。

尽管生成模型可用于分类和回归，但是与某些情况下的生成方法相比，完全鉴别方法通常在鉴别任务上更为成功。

案例

在几个用例中，生成模型可以应用于：

• 生成逼真的艺术品样本（视频/图像/音频）
• 使用时序数据进行仿真和计划
• 统计推断
• 也可用于生成可扩展小型数据集的输入

GAN概述

生成对抗网络由两个模型组成：

• 第一个模型称为生成器，它旨在生成与预期相似的新数据。生成器可以与人类的赝品相提并论，后者可以伪造艺术品。
• 第二种模型称为鉴别器。 该模型的目的是识别输入数据是由伪造者生成的“真实”（属于原始数据集）还是“伪造”（fake）。 在这种情况下，鉴别器类似于艺术专家，后者试图将艺术品视为真实或赝品。

GAN数学模型

训练GAN

由于使用神经网络对生成器和鉴别器进行建模，因此可以使用基于梯度的优化算法来训练GAN。 在我们的编码示例中，我们将使用随机梯度下降法，因为事实证明该梯度下降法在多个领域中均已成功完成。

训练GAN的基本步骤可以描述如下：

1. 采样噪声集和实数集，每个集的大小为m
2. 在此数据上训练鉴别器
3. 采样大小为m的另一个噪声子集
4. 在此数据上训练生成器
5. 从第1步重复

编程GAN

首先导入必要库

pip install torchvision tensorboardx jupyter matplotlib numpy

导入以下依赖项

import torch
from torch import nn, optim
from torch.autograd.variable import Variable
from torchvision import transforms, datasets

为了记录进度，我们将导入一个我创建的附加文件，使我们可以在控制台/ Jupyter中可视化训练过程，同时将其存储在TensorBoard中，以供那些已经知道如何使用它的人使用。

from utils import Logger

您需要下载文件并将其放在GAN文件所在的文件夹中。您不必了解此文件中的代码，因为它仅用于可视化目的。

数据集

我们将在这里使用MNIST数据集，它由大约60.000个手写数字的黑白图像组成，每个图像的尺寸为28x28像素。 该数据集将根据一些有用的技巧进行预处理，这些技巧被证明对训练GAN很有用。

具体来说，介于[0，255]之间的输入值将在-1和1之间归一化。这意味着值0将被映射为-1，值255被映射为1，并且类似地，介于两者之间的所有值都将得到a。 值在[-1，1]范围内。

网络

接下来，我们将从鉴别器开始定义神经网络。 该网络将以扁平化的图像作为输入，并返回其属于真实数据集或合成数据集的概率。 每个图像的输入大小将为28x28 = 784。 关于该网络的结构，它将具有三个隐藏层，每个隐藏层后面是Leaky-ReLU非线性和一个Dropout层，以防止过度拟合。将Sigmoid / Logistic函数应用于实值输出，以获取开放范围（0，1）中的值：

我们还需要一些其他功能，这些功能允许我们将扁平化的图像转换为二维表示，而另一种则相反。

另一方面，生成网络将潜变量向量作为输入，并返回784值向量，该向量对应于扁平化的28x28图像。 请记住，该网络的目的是学习如何创建手写数字的无法区别的图像，这就是为什么其输出本身就是新图像的原因。

该网络将具有三个隐藏层，每个隐藏层之后是Leaky-ReLU非线性。 输出层将具有TanH激活函数，该函数将结果值映射到（-1，1）范围内，该范围与我们预处理的MNIST图像所界定的范围相同。

我们还需要一些其他功能，以允许我们创建随机噪声。随机噪声将从此链接中提出的均值0和方差1的正态分布中采样。

def noise(size):
    '''
    Generates a 1-d vector of gaussian sampled random values
    '''
    n = Variable(torch.randn(size, 100))
    return n

优化

结果

最初生成的图像是纯噪声：

但是后来他们改进了，

在获得不错的合成图像之前，

也可以可视化学习过程。 正如您在下图中所看到的，开始时鉴别器错误非常高，因为它不知道如何正确地将图像分类为真实还是伪造。 当鉴别器变得更好并且其误差在步骤5k减小到约0.5时，生成器误差增加，证明了鉴别器的性能优于生成器，并且可以正确地对假样本进行分类。 随着时间的流逝和训练的继续，生成器误差会降低，这意味着生成的图像越来越好。 随着生成器的改进，鉴别器的误差也会增加，因为合成图像每次都变得越来越逼真。

生成器随时间的错误

鉴别器随时间的错误

我已经介绍了生成对抗网络。 我们首先了解它们是哪种算法，以及为什么它们如此重要。 接下来，我们探索了符合GAN的部分以及它们如何协同工作。 最终，我们通过编程并使用GAN的完全有效的实现进行编程，从而将理论与实践联系起来，该实现学会了创建MNIST数据集的综合示例。

本文源码

详情参阅 - 亚图跨际