对抗样本与生成式对抗网络

最近一个月，人工智能领域听的最多的名词之一，莫过于对抗样本和对抗性网络，从最开始Yann LeCun在Quora上直播时表示生成对抗性网络近期人工智能最值得期待的算法之一，到近日生成对抗性网络的发明者Ian Goodfellow在Quora上直播讲述自己的学习经历和研究，而对比起LeCun, Ian Goodfellow的知名度可能没有那么高，但是Goodfellow是Yoshua Bengio的学生，前Google科学家，现在被Elon Musk招到OpenAI做科学家。

那到底什么是对抗样本？

深度学习对抗样本(Adversarial Examples)的概念最早是Christian Szegedy 等人在ICLR2014发表的论文中提出来的，即在数据集中通过故意添加细微的干扰所形成输入样本，受干扰之后的输入导致模型以高置信度给出了一个错误的输出。在他们的论文中，他们发现包括卷积神经网络（Convolutional Neural Network, CNN）在内的深度学习模型对于对抗样本都具有极高的脆弱性。他们的研究提到，很多情况下，在训练集的不