1.背景
对抗样本:数据集中通过故意添加细微的干扰所形成的输入样本,受干扰之后的输入导致模型以高置信度给出一个错误的输出。
对抗网络提出的背景就是,深度学习出现了绊脚石:对抗样本;深度网络不能解决对抗样本带来的问题,降低深度模型实际的应用价值;
图1 对抗样本的定义
正如图1右边展示的那样,当对熊猫数据加上一定的噪声,深度模型以99.3%的置信度将熊猫识别为长臂猿;这就是对抗样本和对抗网络的由来,
为了解决这个问题,深度对抗网络被进一步提出来;同时对抗样本也促进了对抗网络的发展;
对抗样本影响模型的原因:推测为模型本身线性性质;然而面对对抗样本的脆弱性并非深度学习独有,传统的机器学习也遇到此类问题。
2.对抗网络
面对对抗样本的问题,提出了对抗网络的思路。(2014年,对抗网络应用于图像生成)
图 2 对抗网络的框架思路
对抗过程可描述为如下过程: