常被误解的DCGAN

最新推荐文章于 2022-11-04 20:33:18 发布

机器学习与AI生成创作

最新推荐文章于 2022-11-04 20:33:18 发布

阅读量658

点赞数 1

文章标签：卷积计算机视觉深度学习机器学习神经网络

本文链接：https://blog.csdn.net/lgzlgz3102/article/details/113623046

版权

点击上方“机器学习与生成对抗网络”，关注"星标"

获取有趣、好玩的前沿干货！

1.DCGAN的主要动机

大家都知道GAN在2014年被提出后，随后的DCGAN是第一个使用了卷积进行图像生成的GAN变体。但往往也因此而忽略了原论文最开始的动机——作者们并不是以生成图像为最主要动机，而要解决的是：表征学习问题。

我们可以再看原论文摘要:

注：如果各位看官不习惯英语，可直接跳过看下面的翻译：）

In recent years, supervised learning with convolutional networks (CNNs) has seen huge adoption in computer vision applications. Comparatively, unsupervised learning with CNNs has received less attention. In this work we hope to help bridge the gap between the success of CNNs for supervised learning and unsupervised learning. We introduce a class of CNNs called deep convolutional generative adversarial networks (DCGANs), that have certain architectural constraints, and demonstrate that they are a strong candidate for unsupervised learning. Training on various image datasets, we show convincing evidence that our deep convolutional adversarial pair learns a hierarchy of representations from object parts to scenes in both the generator and discriminator. Additionally, we use the learned features for novel tasks - demonstrating their applicability as general image representations.

好了，允许我做一番拙劣翻译如下：

近年来，通过卷积网络（CNN）进行监督学习的方法已在计算机视觉应用中得到了广泛采用。相比之下，CNN的无监督学习受到的关注较少。在这项工作中，我们希望帮助缩小CNN在监督学习与无监督学习之间的差距。我们介绍一种遵循着一些网络结构设计约束的深度卷积生成对抗网络（DCGAN），并证明它是无监督学习的强大候选者。在各种图像数据集上的训练结果令人信服，即深度卷积生成器和判别器都学习到了从对象局部到场景的特征层次结构。此外，我们将学习到的特征用于新颖的任务——这更进一步展示了其作为通用图像特征表示的适用性。

实际上，DCGAN的论文标题就是：“UNSUPERVISED REPRESENTATION LEARNING WITH DEEP CONVOLUTIONAL GENERATIVE ADVERSARIAL NETWORKS”
评估无监督表示学习算法优劣的一种常用手段是：将其作为特征提取器应用在有标签的监督数据集上以评估性能。为了评估DCGAN提取的特征在监督任务上的效果，论文在Imagenet-1k上进行训练，然后使用判别器的所有卷积层特征、通过最大池化来生成4×4空间特征；然后将它们铺平、拼接得到28672维向量。以正则线性L2-SVM分类器进行训练，在cifar10上可达到82.8％的准确率。