Yan Goodfellow 在生成对抗网络（GANs）论文中提到的比喻 “the Helvetica Scenario” 的解释及其来龙去脉

最新推荐文章于 2021-09-11 14:43:04 发布
最新推荐文章于 2021-09-11 14:43:04 发布
阅读量3.4k 收藏 13
点赞数 17
分类专栏： 生成对抗网络（Generative Adversarial 撸起袖子加油 GANs
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sdnuwjw/article/details/88691504
版权
1、the Helvetica Scenario 可以音译为：海奥维提卡情景、海奥维提卡场景、海奥维提卡现象等

《Generative Adversarial Nets》[1] 原文提及：

…, in order to avoid “the Helvetic scenario” in which G collapses to many values of z to the same value of x to have enough diversity to model p d a t a p_{data} pdata​, much as the negative chains of a Boltzmann machine must be kept up to date between learning steps…

蓝色部分实际上就是对 海奥维提卡现象（Helvetica Scenario） 的一种解释说明：即生成器 G G G 将会牺牲更多的随机噪声 z z z 对应生成相同的数据样本 x x x，导致生成器 G G G 对原始数据分布 p d a t a p_{data} pdata​ 建模时发生功能坍塌而失去生成多样性样本的能力。

原文的解释已经能够让大多数人很好地理解这个 海奥维提卡现象（Helvetica Scenario） 了！

再通俗一点来讲，如果发生了 海奥维提卡现象（Helvetica Scenario） ，不管输入的随机噪声 z z z 取值如何，生成器都会一直生成同样的样本（生成器通过不断生成此样本就能够一直骗过判别器，即判别器会将其判定为真实数据，因此生成器也就开始偷奸耍滑了，不好好学习了，一直源源不断地生成同样的数据样本，偷懒了，就不会再去训练提高自己生成 多样性数据 的能力了）。

在生成对抗网络研究领域，海奥维提卡现象（Helvetica Scenario） 就是典型的 模式崩溃问题（Mode Collapses）



2、海奥维提卡现象（Helvetica Scenario）来源于哪？到底是什么意思呢？

海奥维提卡现象(Helvetica Scenario) 是由 BBC 喜剧节目《Look Around You》在试播集中虚构的实验，在瑞士（拉丁文读音：Helvetica）进行。假设保留皮肤中钙分子的电子壳层，只移除细胞核（原子的中心），将导致大规模的严重的突变反应[2] （效果就如下图，人脸的形状和器官都坍塌在一块了）。



Youtube 目前还有该节目的视频[3] ，感兴趣的朋友可以看一下：

视频的主要部分：钙分子建立在一个由四个电子（蓝色）支撑三个质子（红色）的半永久性结构上，质子把电传递到分子的核心，即中心原子或女王原子（黑|黄）所处的位置。女王原子离开分子或巢将会导致灾难性的后果：整个该原子结构将会倒塌！这就是所谓的 “the Helvetica Scenario”。

简单形象地来讲，该虚构实验的本质含义就是团队中领导乱了方寸，整个团队都混乱成一团了！



3、其他关于 Helvetica 的内容：
（1） Helvetica 字体

另外，Helvetica 也是一种非常常用的现在西文字体，是 Mac 系统的默认字体之一，我们在 Windows 系统下常见的 Arial 字体也与 Helvetica 字体有着不解之缘。在 Mac 系统下可以通过 字体册 应用查看到 Helvetica 字体：

（2）Helvetica 电影

另外，还有一部 2007 年上映的英国纪录片《Helvetica / 传奇字体_海维提卡》，用于纪念 Helvetica 字体五十周年诞辰！
感兴趣的可以在线观看一下：
优酷：https://www.iqiyi.com/w_19s4shlopd.html
土豆：https://video.tudou.com/v/XMjIyMjQxNDU1Mg==.html?__fr=oldtd
搜狐：https://tv.sohu.com/item/MTE0OTk1OA==.html



希望本文能对生成对抗网络研究领域的一些像我这样有细节知识强迫症的朋友有所帮助！



正文参考内容：

[1] Goodfellow I, Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C]//Advances in neural information processing systems. 2014: 2672-2680.

[2] https://www.explainxkcd.com/wiki/index.php/1242:_Scary_Names

[3] https://www.youtube.com/watch?v=t4CRCJUmWsM

csdn-WJW
关注
  • 17
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 4
    评论
专栏目录
一文读懂生成对抗网络GANs(附学习资源).docx
03-09
生成对抗网络（Generative Adversarial Networks，简称GANs）是深度学习领域中一种创新的模型，尤其在图像生成任务上表现出色。该模型由两部分构成：生成器（Generator）和判别器（Discriminator）。生成器的任务是...
生成对抗网络学习笔记1----论文Generative Adversarial Nets
I am what i am
05-26 1万+
1、阅读论文：Goodfellow I J, Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C]// International Conference on Neural Information Processing Systems. MIT Press, 2014:2672-2680.论文地址：GANs2、翻译论文摘要我们
【阅读笔记】Generative Adversarial Nets
SrdLaplace的博客
02-25 608
GAN 是一个通过对抗过程来估计生成模型的框架。我们同事训练两个模型：a generative model G 来你和数据的概率分布，a discriminative model D来判断数据来自真实数据还是生成数据。训练是一个两人游戏的最大最小化过程，G最大化D判断错误的概率， D最大化判断正确的概率。在任意的函数空间内，G和D的解唯一存在，此时G完全你和训练数据的分布，D的的结果永远为1/2。当G和D被定义为multi-perceptrons时,可通过反向传播训练。
【论文】GAN
Aries_young的博客
09-11 371
【论文】Goodfellow I J , Pouget-Abadie J , Mirza M , et al. Generative Adversarial Networks[J].（pdf） Generation 生成（generation）就是模型通过学习一些数据，然后生成类似的数据 以前很早就有生成技术，比如自编码器 我们训练一个编码器，然后将图片转换为编码，然后再训练有一个解码器，吧编码转换为一张图片，接着计算得到图片和输入图片之间的 MSE（mean square error），训练完成之后.
生成式对抗网络（Generative Adversarial Networks，GANs）
热门推荐
Joe的博客
01-04 5万+
1. 简介 首先简要介绍一下生成模型（Generative model）与判别模型（Discriminative mode）的概念： 生成模型：对联合概率进行建模，从统计的角度表示数据的分布情况，刻画数据是如何生成的，收敛速度快，例如朴素贝叶斯，GDA，HMM等。 判别模型：对条件概率P(Y|X)P(Y|X)进行建模，不关心数据如何生成，主要是寻找不同类别之间的最优分类面，例如LR，SVM等
经典必读list
lscelory的博客
08-01 318
汇集了几篇经典必读的论文，有时间一定要细读一遍。一定要在暑假都读一遍。 [1] I. Goodfellow, J. Pouget-Abadie, M. Mirza, B. Xu, D.Warde-Farley,S.Ozair,A.Courville,andY.Bengio. Generative adversarial nets. In NIPS, 2014. GANs的开山之作，必读。 [...
GANs生成对抗网络代码文档等资源-gansmatlab,matlab 生成对抗网络
最新发布
11-19
生成对抗网络（Generative Adversarial Networks，简称GANs）是一种深度学习模型，由Ian Goodfellow等人在2014年提出。该模型通过两个神经网络——生成器（Generator）和判别器（Discriminator）之间的博弈学习，...
GAN（生成对抗网络2014论文）
08-17
**生成对抗网络（GANs）**是深度学习领域的一个重要概念，由Ian Goodfellow等人在2014年提出，其核心思想是通过两个神经网络的博弈来学习数据的分布。这一创新性的方法在图像生成、视频预测、自然语言处理、音频生成...
GANs生成对抗网络代码文档等资源_gansmatlab,matlab 生成对抗网络
06-24
生成对抗网络（Generative Adversarial Networks，简称GANs）是一种深度学习模型，由Ian Goodfellow等人在2014年提出。该模型通过两个神经网络——生成器（Generator）和判别器（Discriminator）之间的对抗性训练，...
gans：在PyTorch和Tensorflow中实施的生成对抗网络
02-06
gans：生成对抗网络在PyTorch和Tensorflow中实现了多个生成对抗网络（GAN）。 ，以获取有关Generative Networks的介绍。香草甘氨酸在这个项目中发现的香草GAN是根据Goodfellow等人的原始论文《 开发的。 这些在上...
机器学习论文合集（pdf格式）.zip
03-10
25篇机器学习经典论文合集，有需要欢迎积分自取 Efficient sparse coding algorithms论文附有代码 [1] Zheng S, Kwok J T. Follow the moving leader in deep learning[C]//Proceedings of the 34th International Conference on Machine Learning-Volume 70. JMLR. org, 2017: 4110-4119. [2] Kalai A, Vempala S. Efficient algorithms for online decision problems[J]. Journal of Computer and System Sciences, 2005, 71(3): 291-307. [3] Kingma, D. and Ba, J. Adam: A method for stochastic optimization. In Proceedings of the International Conference for Learning Representations, 2015. [4] Lee H, Battle A, Raina R, et al. Efficient sparse coding algorithms[C]//Advances in neural information processing systems. 2007: 801-808. [5] Fan J, Ding L, Chen Y, et al. Factor Group-Sparse Regularization for Efficient Low-Rank Matrix Recovery[J]. 2019. [6] Z. Lai, Y. Chen, J. Wu, W. W. Keung, and F. Shen, “Jointly sparse hashing for image retrieval,” IEEE Transactions on Image Processing, vol. 27, no. 12, pp. 6147–6158, 2018. [7] Z. Zhang, Y. Chen, and V. Saligrama, “Efficient training of very deep neural networks for supervised hashing,” in Proc. IEEE Int. Conf. Computer Vision and Pattern Recognition, 2016, pp. 1487–1495. [8] Wei-Shi Zheng, Shaogang Gong, Tao Xiang. Person re-identification by probabilistic relative distance comparison[C]// CVPR 2011. IEEE, 2011. [9] Liao S, Hu Y, Zhu X, et al. Person re-identification by local maximal occurrence representation and metric learning[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2015: 2197-2206. [10] Liu X, Li H, Shao J, et al. Show, tell and discriminate: Image captioning by self-retrieval with partially labeled data[C]//Proceedings of the European Conference on Computer Vision (ECCV). 2018: 338-354. [11] Yao T, Pan Y, Li Y, et al. Exploring visual relationship for image captioning[C]//Proceedings of the European conference on computer vision (ECCV). 2018: 684-699. [12] Chao Dong, Chen Change Loy, Kaiming He, and Xiaoou Tang., ”Image Super-Resolution Using Deep Convolutional Networks, ” IEEE Transactions on Pattern Analysis and Machine Intelligence, Preprint, 2015. [13] M. D. Zeiler, D. Krishnan, Taylor, G. W., and R. Fergus, "Deconvolutional networks," in Proc. IEEE Comput. Soc. Conf. Comput. Vision Pattern Recog., 2010, pp. 2528-2535. [14] Girshick R, Donahue J, Darrell T, et al. Rich feature hierarchies for accurate object detection and semantic segmentation[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2014: 580-587. [15] Girshick R . Fast R-CNN[J]. Computer Science, 2015. [16] Joseph Redmon, Santosh Divvala, Ross Girshick, et al. You Only Look Once: Unified, Real-Time Object Detection[C]// 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). IEEE, 2016. [17] LeCun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11): 2278-2324. [18] Hinton G E, Salakhutdinov R R. Reducing the dimensionality of data with neural networks[J]. science, 2006, 313(5786): 504-507. [19] Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[C]//Advances in neural information processing systems. 2012: 1097-1105. [20] Zeiler M D, Fergus R. Visualizing and understanding convolutional networks[C]//European conference on computer vision. Springer, Cham, 2014: 818-833. [21] Szegedy C, Liu W, Jia Y, et al. Going deeper with convolutions[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2015: 1-9. [22] Wu, Y., & He, K. (2018). Group normalization. In Proceedings of the European Conference on Computer Vision (ECCV) (pp. 3-19). [23] Goodfellow I,Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C]//Advances in Neural Information Processing Systems. 2014: 2672-2680. [24] Tran, L., Yin, X., & Liu, X. (2017). Disentangled representation learning gan for pose-invariant face recognition. In Proceedings of the IEEE conference on computer vision and pattern recognition (pp. 1415-1424). [25] Pu, Y., Gan, Z., Henao, R., Yuan, X., Li, C., Stevens, A., & Carin, L. (2016). Variational autoencoder for deep learning of images, labels and captions. In Advances in neural information processing systems (pp. 2352-2360).
GAN和DCGAN的讨论
兔清风的博客
11-11 4487
1. GAN对噪声z的分布有要求吗？常用哪些分布？ 一般没有特别要求，常用有高斯分布、均匀分布。噪声的维数至少要达到数据流形的内在维数，才能产生足够的diversity，mnist大概是6维，CelebA大概是20维（参考：https://zhuanlan.zhihu.com/p/26528060） 2. GAN的 adversarial 体现在哪里？ G和D的博弈，G需要尽量贴
基于对抗生成网络的图像转换技术【论文笔记】
Ruo_hua的博客
08-14 1万+
前两篇文章是对方法的改进，详细地论证了提出的方法的可行性和优越性。后两篇是应用型，针对一个特定的问题提出方法。Image-to-Image Translation with Conditional Adversarial Networks这是由Berkeley AI Research (BAIR) Laboratory发表的一篇图像转换技术。如果提前没有接触过这类问题并且有强迫症的朋友（比如我）就会
GAN介绍 - 相关研究课题
刀刀鱼
11-13 1749
GAN介绍 - 介绍 https://blog.csdn.net/sean2100/article/details/83662975 GAN介绍 - 为什么学习生成式模型? https://blog.csdn.net/sean2100/article/details/83681043 GAN介绍 - 生成式模型是如何工作的? GAN与其他模型有什么区别？https://blog.csdn.net/...
group和scenario的区别
qq_27891995的博客
02-21 367
group：多个脚本之前按照独立设置模式跑，各个脚本可以单独设置虚拟用户、运行时间等 scenario：多个脚本之间按照相同的模式跑，将总的虚拟用户数按照一定的比例分配给各个脚本 ...
生成对抗网络(GAN)
OkingjerryO的博客
11-24 3845
生成对抗网络(GAN) paper原文:Generative Adversarial Networks 生成对抗网络GAN 概览 做了什么 优势 不足 模型组成 生成模型 G 鉴别模型 D 核心公式 算法 图示化描述 全局最优点 Pg Pdata 效果与对比 展望概览做了什么 提出了新的模型对抗模型 通过生成模型(G)与鉴别模型(D)之间的相互竞争。即D模型要将 G 生成假数据调出，而 G
更好的Helvetica
CSS 初学者指南
06-20 202
body { font-family: "HelveticaNeue-Light", "Helvetica Neue Light", "Helvetica Neue", Helvetica, Arial, "Lucida Grande", sans-serif; font-weight: 300; } 最好使用最好的Helvetica。 翻译自: https://css-tric...
【论文阅读】——（1）Generative Adversarial Nets
BlackValley的博客
09-08 216
背景 Generative Adversarial Nets是GAN的开山之作，介绍了GAN的基本思想，有理论分析有实践效果。 论文 摘要 我们提出了一个通过对抗过程估计生成模型的新框架，其中我们同时训练了两个模型：一个捕获数据分布的生成模型G和一个估计来自训练数据而非G的样本概率的判别模型D。G的训练程序是使D出错的概率最大化。这个框架对应于一个minimax两人博弈。在任意函数G和D的空间中，存在一个唯一解，G恢复训练数据分布，D在G生成的训练数据集空间中处处预测真实数据的概率等于1/2。在G和D由多层
GenerativeAdversarial Nets生成对抗式网络
weixin_34101784的博客
02-14 135
GAN（GenerativeAdversarial Nets）生成对抗式网络 G（Generator）：模拟数据分布，目的是最大化D犯错的概率 D（Discriminator）：估计一个样本来自训练集的概率，目的是最小化D犯错的概率 最后达到1/2的平衡状态。G和D由多层感知机定义，系统使用反向传播(backpropagation)训练。训练或产生样本的时候不需要马尔科夫链或者展开的...
Ian Goodfellow详解生成对抗网络GANs的应用与原理
Ian Goodfellow在NIPS2016年的Workshop on Adversarial Training会议上，对生成对抗网络（Generative Adversarial Networks, GANs）进行了详细的介绍。他首先解释了对抗训练的概念，这是一个术语，指的是在最坏情况...
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

csdn-WJW

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值