​亚马逊出品：非均匀扰动的对抗鲁棒性理论分析

©PaperWeekly 原创 · 作者｜孙裕道

学校｜北京邮电大学博士生

研究方向｜GAN图像生成、情绪对抗样本生成

引言

该论文是关于对抗训练的理论性的文章。这篇论文吸引我的点在于它详细的对对抗扰动的非均匀的几何结构进行了分析，并给出了可靠的数学依据和证明。论文中的核心思想是使非均匀对抗扰动能够在对抗训练中使得模型更具有鲁棒性。

许多安全应用程序，如恶意软件检测、信用风险预测和垃圾邮件过滤，与图像应用程序相比具有不同的属性。作者借此提出了一种新的防御机制，该机制使用非均匀扰动集进行对抗训练，并能够集成特定数据领域下的专家知识。

论文标题：

Adversarial Robustness with Non-uniform Perturbations

论文链接：

https://arxiv.org/abs/2102.12002

背景和动机

对抗训练经常会被描述成一个最小最大的优化问题，即给定一个数据集 ，其中输入样本为 ，类别为 ，对抗训练的目标函数可以定义为如下形式：

其中 表示的是神经网络， 表示的是交叉熵损失函数， 表示的是加在干净样本上的对抗扰动。

考虑一个在 2 维情况下的一个二分类问题如下图所示，在图（a）中我们可以发现，当对抗扰动的范围被限制在 时，图中的所有的红蓝点都被正确分类并且它们的约束范围也在相应的决策边界内，这说明经过 对抗训练获得的模型对对抗扰动有很好的鲁棒性；图（b）展示的是模型分类崩溃的场景，经过