weixin_53576987的博客

原创 FGSM论文阅读笔记

在许多情况下，在训练数据的不同子集上训练的具有不同架构的各种各样的模型对相同的对抗样本进行了错误分类。对抗样本暴露了训练算法的盲点。对抗样本的原因是一个谜，推测的解释表明，这是由于深度神经网络的极端非线性，可能结合了模型平均不足和纯监督学习问题的正则化不足。作者证明了这些推测是不必要的。高维空间中的线性行为足以引起对抗样本。作者使用非线性效应来抵抗对抗样本和设计由于线性而易于训练的模型存在根本矛盾。在未来，可以通过更好的优化来避免这种权衡。...