DCGAN Tutorials解读

DCGAN

URL

DCGAN Tutorial

DCGAN Github

概述

今天看了dcgan，链接为DCGAN Tutorial,感受到了这个网络框架的强大。gan网络是由两个部分组成，生成器和鉴别器。生成器用来生成假的数据，鉴别器用来识别假的的数据。生成器一直致力于把假的数据“变成”真的数据而鉴别器则是致力于把假的数据识别出来。所以当鉴别器只有$50\%$的概率判断生成器产生的数据为假时，该训练便成功。

GAN表达公式

我们可以定义$x$为输入图像，$D(x)$为鉴别器网络。则当$x$的值来自训练图像时，$D(x)$的值为1；当$x$的值来自生成图像时，$D(x)$的值为0。$D(x)$可以当作典型的二分类。对于生成器，我们可以定义$z$为一个遵循标准正态分布的虚拟空间向量，$G(z)$表示生成器。$G(z)$的目的是可以估计训练数据($P_{data}$)的分布，因此它能够根据数据($P_g$)分布估计假数据。

$D(G(z))$是一个估计生成器（$G$）是真实图像的概率模型。以下公式是GAN网络的loss function：
$$\underset{GD}{\mathrm{minmaxV}}(D,G)=E_{x-P_{data}(x)}[logD(x)]+E_{z-P_z(z)}[log(1-D(G(z)))]$$

理论上讲，当$P_g=P_{data}$时，判别器几乎不能判断输入是否为真。但是，GANs网络的收敛理论一直在研究，在现实模型中不能总是训练到目标点。

DCGAN

DCGAN是GAN网络的简单延申，但是它能分别对鉴别器和生成器进行卷积和反卷积。鉴别器由卷积层，池化层和LeakyReLU激活函数组成。当输入图像是$3x64x64$的RGB图像时，输出是判断输入的图像是否为真的概率分布。生成器是由反卷积层，池化层和ReLU激活函数组成。它的输入为一个遵循标准正太分布的隐藏向量$z$,输出为一个$3x64x64$的RGB图像。反卷积可以使隐藏向量$z$转换成一个和RGB图像有相同形状的卷。下面以CelebA为数据集，对CelebA做DCGAN网络训练。

包含库

from __future__ import print_function
#%matplotlib inline
import argparse
import os
import random
import torch
import torch.nn as nn
import torch.nn.parallel
import torch.backends.cudnn as cudnn
import torch.optim as optim
import torch.utils.data
import torchvision.datasets as dset
import torchvision.transforms as transforms
import torchvision.utils as vutils
import numpy as np
import matplotlib.pyplot as plt
import matplotlib.animation as animation
from IPython.display import HTML

# Set random seed for reproducibility
manualSeed = 999
#manualSeed = random.randint(1, 10000) # use if you want new results
print("Random Seed: ", manualSeed)
random.seed(manualSeed)
torch.manual_seed(manualSeed)

这部分设置了一个随机种子，如果你想每次运行都得到一个新的结果，可以使用manualSeed = random.randint(1, 10000)这段代码。

该行代码输出为：

Out:
Random Seed:  999

输入

输入部分需要定义一些变量用于后续的训练。

$dataroot$数据集的路径，最好写绝对路径；$worke$