关注
【论文解读：EXPLANING AND HARNESSING ADVERSARIAL EXAMPLES】
许多机器学习模型包括神经网络，总是会将对抗样本错误分类，对抗样本是指对数据集中的样本施加微小的但是有目的的最坏情况下（最大化预测误差）的扰动，这样的扰动最终会导致模型以较高自信度来输出一个错误的结果。早期对于对抗样本现象的解释集中于非线性和过拟合。我们反而认为神经网络对于对抗样本脆弱性表现的主要原因在于神经网络模型的线性性质。在我们给出对抗网络在不同架构和训练集上泛化的解释时的大量结果证明了我们这个观点。而且，这个观点产生了一个简单并且快速生成对抗样本的方法。使用这个方法我们能够提供对抗样本来进行对抗训练。