ZOO:Zeroth Order Optimization Based Black-box Attacks to Deep Neural Networks without Training Substitute Models
核心思想:利用正负扰动带来的概率差估算一阶导(梯度)和二阶导,再利用ADAM或者牛顿法等方法更新x。本质为通过估算梯度将黑盒转换为白盒过程。重要性采样也颇为亮眼。
论文内容:
①INTRODUCTION:黑白盒攻击;无盒攻击(代理模型)(不适用于大网络)
②RELATEDWORK
③ZOO: C&W attack 带来启发:
④zoo和CW比需要重新定义loss和估算梯度:
至于降维和重要性概率采样,就是看变化最大的点。
DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS
核心思想:试错代替概率,平移接近边界
文章内容:
①INTRODUCTION:梯度法,迁移法,概率法好防御,且不符合实际
②BOUNDARY ATTACK:俩个条件步步紧逼:
球面移动——靠近 这个循环不断重复
这里的核心是扰动步长和收缩步长,其中收缩步长实时调整:成功率大于50太多就减少,反之亦然
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition
核心思想:局部几何建模,降低空间维数
文章内容:
①INTRODUCTION:梯度法,迁移法,概率法:好防御,且不符合实际
② Methodology:人脸识别攻击分为闪避攻击和模仿攻击