麻省理工Hadi Salman新作：ViT架构可以有效抵御图像补丁攻击

©PaperWeekly 原创 · 作者 | 张一帆

学校 | 中科院自动化所博士生

研究方向 | 计算机视觉

本文是 MIT 大牛 Hadi Salman 于 10 月 11 放在 arXiv 的文章。

论文标题：

Certified Patch Robustness via Smoothed Vision Transformers

论文链接：

https://arxiv.org/pdf/2110.07719.pdf

代码链接：

https://github.com/MadryLab/smoothed-vit

首先介绍一下本文的背景知识。

Preliminaries

1.1 Patch Robustness

Patch Robustness 是目前被广泛研究的一种鲁棒性范式，即使用一小块图像 patch 对图像进行攻击，研究人员使用对抗补丁欺骗图像分类器，操纵物体探测器以及还可以中断光流估计。

1.2 Derandomized smoothing

目前最流行的方法即 Derandomized smoothing，这种方法维护一堆被宽度为  的 patch 攻击的 ablations ，对于一个 的图像 ，为了更好的说明这个问题，这里使用列补丁为例，对一个宽度为 的列补丁，它可以从图像的任意位置开始，因此 。