探索Square Attack：黑盒对抗攻击的新境界

探索Square Attack：黑盒对抗攻击的新境界

square-attackSquare Attack: a query-efficient black-box adversarial attack via random search [ECCV 2020]项目地址:https://gitcode.com/gh_mirrors/sq/square-attack

Square Attack，一项在ECCV 2020上发表的创新性研究成果，带来了查询效率极高的黑盒L2和Linf对抗攻击新方法。它摒弃了对局部梯度信息的依赖，因此不受梯度屏蔽的影响。这个由EPFL和University of Tübingen的研究人员开发的算法，在多个方面超越了现有的最佳攻击策略。

项目介绍

Square Attack的核心是随机搜索策略，它在图像的特定位置选择矩形区域进行随机更新，以使每次迭代时的扰动接近可行集的边界。其简单却高效的算法设计，使得它在低查询次数下就能达到高成功率，尤其在未定向设置中表现出色。例如，在ImageNet上的实验证明，与Al-Dujaili & O'Reilly的最近Linf-攻击相比，平均查询效率提高了至少1.8倍，最高可达3倍。

项目技术分析

Square Attack的算法基于随机搜索，每次尝试更新并仅在损失改善时接受。关键创新在于定制的采样分布P，保证算法始终处于边界，并利用平方形状的更新来维持这一状态。它不需要复杂的梯度信息，而是依靠简单但智能的更新策略，即使在处理非凸问题时也能保证收敛。

应用场景

Square Attack不仅适用于标准模型的评估，还特别擅长检测和挑战抵御性模型的抗攻击性能。在MNIST的MadryLab挑战和TRADES基准测试中，它甚至超越了白盒攻击，成为评估模型稳健性的强大工具。此外，对于那些声称能防御对抗攻击的新型防御机制，如“Bandlimiting Neural Networks”，Square Attack也成功地揭示了其脆弱性。

项目特点

• 高效：比其他领先方法需要更少的查询次数。
• 强大：在很多情况下，即便是作为黑盒攻击，其效果也优于白盒攻击。
• 简单：基于随机搜索的直观算法，易于实现和理解。
• 可靠：在不同的超参数设置下表现稳定，无需为每个新模型进行大量额外查询。

要体验Square Attack的强大，请直接运行代码中的square_attack_linf()和square_attack_l2()函数，即可针对不同模型进行对抗攻击。

Square Attack是一个强大的工具，它的出现重新定义了我们对黑盒对抗攻击的认识，为模型稳健性和安全性评估提供了新的视角。现在，就加入我们，一起探索这个令人惊叹的技术世界吧！

square-attackSquare Attack: a query-efficient black-box adversarial attack via random search [ECCV 2020]项目地址:https://gitcode.com/gh_mirrors/sq/square-attack