pix2pixhd_一文读懂GAN, pix2pix, CycleGAN和pix2pixHD

人员信息

主讲嘉宾

姓名：朱俊彦(Jun-Yan Zhu)

现状：麻省理工学院博士后(PostDoc at MIT)，计算机科学与人工智能实验室(Computer Science and Artificial Intelligence Laboratory, CSAIL)

个人主页：http://people.csail.mit.edu/junyanz/

图形学中的尝试：趁手的武器 or 白费功夫？

在传统的图形学管线(pipeline)中，输出图像需要经过建模、材质贴图、光照、渲染等一系列繁琐的步骤(见下图)。

现在大家看到了Deep Learning的潜力，那我们自然的就有个想法：有没有可能使用Deep Learning简化计算机图形学(Computer Graphics)的研究呢？

一个直接的想法是把DNN“倒过来用”。之前的DNN可能是输入一幅图像，输出一个标签(比如说猫)，那我们能不能输入“猫”这个字，输出一张猫的照片呢？

很遗憾，答案是No！因为这种任务实在太复杂啦！我们很难让DNN凭空输出图像这样的高维数据(High dimensional data)(这里的“高维”可以理解成数据量大)。实际上，在很长一段时间里，DNN只能输出数字这种简单的、低分别率的小图像，就像下面这样：

而想要生成想游戏场景这类的图片，这种方法根本没用。所以，我们必须得想出更厉害滴东西完成这项任务(使命感爆棚)！

GAN就完了？Naive！

于是…在月黑风高的某一天(画风逐渐跑偏)，一个叫做生成对抗网络(Generative Adversarial Network)——也就是大名鼎鼎的GAN——的东西横空出世。作者是下面这位小哥和他的小伙伴们：

那么，我们该怎么GAN出图像呢？且听我细细道来~

一般来说，GAN中包含两种类型的网络GGG和DDD。其中，GGG为Generator，它的作用是生成图片，也就是说，在输入一个随机编码(random code)zzz之后，它将输出一幅由神经网络自动生成的、假的图片G(z)G(z)G(z)。

另外一个网络DDD为Discriminator是用来判断的，它接受GGG输出的图像作为输入，然后判断这幅图像的真假，真的输出1，假的输出0。

在两个网络互相博弈(金坷垃日本人：不邀哒架)的过程中，两个网络的能力都越来越高：GGG生成的图片越来越像真的图片，DDD也越来越会判断图片的真假。到了这一步，我们就能“卸磨杀驴”——丢掉DDD不要了，把GGG拿来用作图片生成器。

正式一点儿讲(上公式啦)，我们就是要在最大化DDD的能力的