1.前言
对抗样本和对抗性网络,从最开始YannLeCun在Quora上直播时表示生成对抗性网络是近期人工智能最值得期待的算法之一,到生成对抗性网络的发明者IanGoodfellow在Quora上直播讲述自己的学习经历和研究,成了人工智能领域内热门的名词之一。而对比起LeCun,IanGoodfellow的知名度可能没有那么高,但是Goodfellow是YoshuaBengio的学生,前Google科学家,现在被ElonMusk招到OpenAI做科学家。
2.到底什么是对抗样本?
深度学习对抗样本(Adversarial Examples)的概念最早是Christian Szegedy 等人在ICLR2014发表的论文中提出来的,即在数据集中通过故意添加细微的干扰所形成输入样本,受干扰之后的输入导致模型以高置信度给出了一个错误的输出。在他们的论文中,他们发现包括卷积神经网络(Conv