CVPR 2021大赛， 安全AI 之防御模型的「白盒对抗攻击」解析

1 引言

2021年的安全AI挑战者计划的第六期由阿里和CVPR联合推出的竞赛一共分为两个赛道，赛道1是 防御模型的白盒对抗攻击，赛道2是 ImageNet无限制对抗攻击。

比赛链接：

https://tianchi.aliyun.com/s/cb2b6280f50dd95a685e9bb4ce840f4a

（点击文末阅读原文直达）

评估平台：

https://github.com/thu-ml/ares/tree/contest

参与比赛的粉丝，欢迎加入52CV组织的交流群

本文主要是对赛道1的赛题的一些讲解。要知道目前很多对抗防御方法被提出以减轻对抗样本的威胁。但是，其中一些防御可以被更强大或更具针对性的攻击攻破，这使得很难判断和评估当前防御和未来防御的有效性。

本次比赛的目的就是对防御模型进行全面而正确的鲁棒性评估。

挑战者计划第二季总奖金池为200万元，本期总奖金为10万美金，并包含近10万元的奖品福利，奖励如下：

赛事节点：

2 题目赛况

2.1 赛题简介

2.2 数据介绍

比赛方通过15个防御模型测试选手提交的攻击算法，其中包括13个在CIFAR-10上训练的模型和2个在ImageNet上训练的模型，比赛方将会利用CIFAR-10测试集的前1000个数据和ImageNet ILSVRC 2012验证集中随机挑选的1000个数据进行测试。为了方便查阅我将其整理成如下表格：

表1 模型介绍

举办的比赛方很贴心，他们已经将这些模型链接的下载程序https://github.com/thu-ml/ares/tree/contest 中，如下图所示，为各个模型下载的程序。

需要注意的一点是这些预训练好的模型大部分存储在google 的Drive云端中，所以需要梯子来进行下载。

为了能够让大家更加方便的去获取模型我将这13个Cifar-10模型和2个Imagenet模型存放到百度云盘中。下载模型的链接和密码分别为：

• 链接：https://pan.baidu.com/s/13Je6K5TjNeGiReAtOUBfew

• 密码：CVPR

2.3 评价指标

本次比赛的提交评测，在主办方提供的ARES评测平台上进行。

平台的链接为：

https://github.com/thu-ml/ares/tree/contest

选手需要提交白盒攻击算法的源代码（不同于以往，之前需要提交对抗样本）。这些提交将会在 范数扰动下进行评测。对于CIFAR-10上的模型，对抗扰动规模是