对抗样本和深度对抗网络

1.背景

  对抗样本：数据集中通过故意添加细微的干扰所形成的输入样本，受干扰之后的输入导致模型以高置信度给出一个错误的输出。

对抗网络提出的背景就是，深度学习出现了绊脚石：对抗样本；深度网络不能解决对抗样本带来的问题，降低深度模型实际的应用价值；

 

图1 对抗样本的定义

  正如图1右边展示的那样，当对熊猫数据加上一定的噪声，深度模型以99.3%的置信度将熊猫识别为长臂猿；这就是对抗样本和对抗网络的由来，

为了解决这个问题，深度对抗网络被进一步提出来；同时对抗样本也促进了对抗网络的发展；

     对抗样本影响模型的原因：推测为模型本身线性性质；然而面对对抗样本的脆弱性并非深度学习独有，传统的机器学习也遇到此类问题。

 

2.对抗网络

面对对抗样本的问题，提出了对抗网络的思路。（2014年，对抗网络应用于图像生成）

图 2 对抗网络的框架思路

 

对抗过程可描述为如下过程：