论文那些事—EXPLORING THE SPACE OF BLACK-BOX ATTACKS ON DEEP NEURAL NETWORKS

EXPLORING THE SPACE OF BLACK-BOX ATTACKS ON DEEP NEURAL NETWORKS（ICLR2018）

1、摘要\背景

提出了一种新的梯度估计黑盒攻击的对手与查询访问目标模型的类概率，不依赖于可移植性。我们还提出了一些策略，将生成每个对抗样本所需的查询数量与输入的维度解耦。

2、方法

基于随机分组减少查询

使用主成分减少查询

3、总结

在本文中，我们对新的和现有的针对最先进分类器和防御的黑盒攻击进行了系统分析。我们提出了梯度估计攻击，其攻击成功率可与甚至白盒攻击相媲美，并且优于其他最先进的黑盒攻击。我们采用随机分组和基于PCA的方法将所需的查询数量减少到一个小常数，并证明了即使在这种情况下梯度估计攻击的有效性。我们还将黑盒攻击应用于现实世界的分类器和最先进的防御。我们的所有结果都表明，梯度估计攻击在各种环境下都非常有效，因此开发更好的黑箱攻击防御成为一项紧迫任务。

没看明白，提出梯度估计，具体怎么估计也没说，我看着和零阶优化zoo没区别啊，查询策略确实是一个创新点，回头再看不，太长了。