论文那些事—Enhancing the Transferability of Adversarial Attacks through Variance Tuning

Enhancing the Transferability of Adversarial Attacks through Variance Tuning（CVPR2021）

1、摘要

作者提出一种方法——varirance tuning,其增强了基于梯度迭代攻击方法，提高了攻击的迁移性，即对黑盒攻击的成功率。此方法是在基于梯度的攻击方法上进行优化，如在MI-FGSM中添加varirance tuning，则变为了VMI-FGSM。

2、相关工作

在梯度计算的每次迭代中，不是直接使用动量梯度，我们进一步考虑前一次迭代的梯度方差来调整当前梯度，从而稳定更新方向并从较差的局部最优解中逃逸。

MI-FGSM公式如下：

 梯度方差的定义：

 VMI-FGSM具体的算法流程图如下所示：

 3、实验结果

4、总结

Variance tuning可以显著提高已有攻击方法（如MI-FGSM, NI-FGSM等）的迁移性。它可以应用于任何基于梯度的迭代攻击。

文中没有解释为什么加入了方差效果就会更好，根据方差定义：方差(variance)是衡量一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。所以我认为方差是是根据前面的偏离程度来预测后面的走向。