【论文】 Projection & Probability-Driven Black-Box Attack
论文级别:CVPR 2020
摘要:在黑盒环境下,高维空间中找到合适的优化方向并不容易;该论文提出了Projection&Probability-drivern(PPBA)来减少解空间;首先将对抗扰动优化问题建模维一个”利用压缩感知来recoving frequency-sparse perturbation的过程。假设低维频率的随机噪声是对抗的,该论文提出了一种简单的方法来构造低频约束感知矩阵用来减少维度;后使用概率驱动的策略来随机行走,该策略以更少的查询预算充分利用该传感矩阵;
方法:对抗分类攻击的目标是找到满足以下条件的扰动:
为了限制扰动范数(epsilon),论文选用C&W损失函数作为目标函数来限制扰动:
低频投影矩阵:最近的研究发现,对抗性扰动偏向于低频信息,假设存在最佳低频扰动δ∗,则该扰动δ∗在频域中是稀疏的,Ψ是DCT转换后的矩阵,则Ψδ∗也是稀疏向量,根据压缩感知理论 ,可以恢复稀疏向量通过利用测量矩阵和相应的测量向量: