![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
像素攻击
少年芒果君
男儿何不带吴钩
展开
-
2020年最新对抗攻击论文泛读 adversarial attack
1.Universalization of any adversarial attack using very few test examples思想:用目前的攻击方法(FGSM,DeepFool,etl)获取几张不同的图的攻击成功的样本,将其组合成矩阵,对矩阵进行主成分分析、奇异值分解,获取他们的共同点,这样便可以得到泛用的对抗攻击个体。[根据攻击方式的不同分为SVD-FGSM,SVD-DeepFool,etl]主要贡献:算法:效果:总结:...原创 2020-07-20 11:45:50 · 1554 阅读 · 3 评论 -
【黑盒攻击笔记】网格划分降低参数下L∞约束 + 进化算法&贪婪算法俩篇:Tiling and Evolution Strategils&Parsimonious
这次阅读的俩篇文章是基于L∞约束的《Parsimonious Black-Box Adversarial Attacks via Efficient Combinatorial Optimization》和《Yet Another but More Efficient Black-Box Adversarial Attack: Tiling and Evolution Strategies》,放在一...原创 2020-03-09 11:54:16 · 1012 阅读 · 0 评论 -
【迁移攻击笔记】梯度/Loss/Query都不用也可以攻击!Enhancing Cross-task 对抗Black-Box迁移 with Dispersion Reduction
亮点:①不需要目标模型的任何访问信息就可以攻击。②攻击方法可以跨任务:同一张图,生成的攻击对象适用于各种CV检测。更加符合实际。核心思想:CV大类的检测网络,往往都是捕捉特征进行判断。因此文章近似把深度网络分成俩部分:**特征捕捉+仿射变换:①特征捕捉是捕捉图片的底层特征,文中的思想是各个网络捕捉到的可能都差不多(捕捉到的特征为向量a**)。②仿射变换(=W*a)为分类信息,各个网络差...原创 2019-12-10 18:47:41 · 821 阅读 · 0 评论 -
【迁移攻击笔记】Curls & Whey: Boosting Black-Box Adversarial Attacks
核心思想:①Curls迭代:梯度下降/上升方向 + 二分法优化 + varience-reduced优化原创 2019-12-01 16:40:49 · 583 阅读 · 0 评论 -
【黑盒攻击笔记】查询次数の极大减少!Sign-OPT: A Query-Efficient Hard-label Adversarial Attack(对比HopSkipJumpAttack:HSJA)
核心思想:对于边界点,通过在一些方向上移动的测试,确定梯度方向的大致位置。如图:①想法:对于扰动方向θ在与边界交点画圆,我们希望在标签改变的方向(B方向)的圆轨迹上确定点作为下一个扰动方向θ’,最小扰动肯定比θ好。②问题:在只知道改变后标签内容的硬黑盒攻击下,如何确定B方向呢?③方法:只好多试几次取平均来估计喽~算法内容:①首先,针对初始图像x0,对任意扰动方向θ定义问题g(θ):...原创 2019-11-28 11:09:38 · 2029 阅读 · 4 评论 -
【黑盒攻击笔记】2019贝叶斯优化攻击样本BLACK-BOX ADVERSARIAL ATTACK WITH TRANSFERABLE MODEL-BASED EMBEDDING
11原创 2019-11-27 15:30:51 · 1951 阅读 · 4 评论 -
【迁移攻击笔记】2019.11分批次集成攻击A New Ensemble Adversarial Attack Powered by Long-term Gradient Memories
0.总览上交和阿里巴巴团队的一篇我觉得是把集成迁移攻击研究透了的文章。每个trcik都有很复杂的数学支撑,1.Introduction①目前主流的迁移方法:ensemble-based 和 GAN, 对算力和内存要求高。②因此提出SMBEA(Serial Mini-Batch Ensemble Attack),基于俩个先验:模型迁移相当于网络泛化;边界相似度比扰动大小的限制更重要。③将集...原创 2019-11-26 16:31:45 · 1355 阅读 · 0 评论 -
【迁移攻击笔记】动量逻辑集成!MI-FGSM!Boosting Adversarial Attacks with Momentum
1.更新策略选择①optimization-based和多步方法IGSM:成功率高;转移性低。(可能“过拟合”or陷入局部最优)②单步方法FGSM: 成功率低;转移性高。所以用: MI-FGSM:2.集成方式选择MI-FGSM还不够,得利用集成网络来进一步提高成功率。利用的方式有3种待测试:①输入softmax的logits②softmax输出的prediciton③计算得到的...原创 2019-11-25 20:08:33 · 5102 阅读 · 0 评论 -
【迁移攻击笔记】图像&模型同时迁移2017Universal adversarial perturbations
核心思想:这篇17年的文章核心思想很简单:初始化v=0没有扰动,然后对于每个样本加上扰动v后:分类错误,则下一个样本;分类正确,寻找一个微小的扰动 ,使得分类错误。不断重复,直到在这样本中错误样本满足错误率。所以可以理解成最原始最暴力的迁移攻击方法。然而最原始最暴力的方法往往也是最泛用的,所以对全数据集全网络都能通用。算法和示意图如下:图像迁移和网络迁移结果如下:数学解释:首...原创 2019-11-25 16:41:29 · 439 阅读 · 1 评论 -
【迁移攻击笔记】梯度平滑攻击!UNDERSTANDING AND ENHANCING THE TRANSFERABILITY OF ADVERSARIAL EXAMPLES
1.主要内容①研究了:网络结构、大小和精度,loss梯度的局部平滑性 对 迁移率 的影响。②提出了局部光滑方法:用各个点周围的梯度代替各个点本身的梯度。(防止边界过抖影响迁移率)2.Introduction:①对抗转移是不对称的,模型A生成的对抗实例很容易转移到模型B,反之可能不成立。(我觉得这一点很好解释,大边界到小边界很好转移,反之不行,不知道为什么作者说这一点说明边界相似性没法解释)...原创 2019-11-25 15:37:49 · 995 阅读 · 0 评论 -
【迁移攻击笔记】数据集の变化→提高迁移率!Improving Transferability of Adversarial Examples with Input Diversity
1.作案动机已知:迭代攻击(eg.I-FGSM)过拟合且易陷入局部最优,不适合迁移。单步攻击(eg.FGSM)欠拟合,不适合迁移。对输入进行图像处理可以有效抵抗对抗攻击。推测:图像处理之后进行训练,提高迁移率。2.作案手段①先回顾FGSM和I-FGSM和MI-FGSM:②再各将其中对x’的梯度按p的概率换成对T(x’)的梯度:总图如下:③攻击集成网络:用的就是...原创 2019-11-23 09:24:36 · 829 阅读 · 0 评论 -
【迁移攻击笔记】模型决策空间の几何规律!集成攻击の提出!DELVING INTO TRANSFERABLE ADVERSARIAL EXAMPLES AND BLACK-BOX ATTACKS
核心思路:单个模型攻击单个模型:提出失真率RMSD:①基于优化的(Adam)方法②基于梯度的方法(FG,FGS等)用上面俩种方法产生对抗扰动来迁移攻击,结果为:非目标:目标:相当差,几乎没用。增大扰动也不行。此外,作者还特地验证一下对抗样本最小可转移RMSD,得出结论FG比FGSM更适合转移:2.重点来了:集成攻击:(用4个白盒模型生成攻击对象攻击一个黑盒模型):①基...原创 2019-11-21 20:37:13 · 1013 阅读 · 0 评论 -
【对抗攻击笔记】泰勒展开!进击の信任域!Trust Region Based Adversarial Attack on Neural Networks
论文链接:https://arxiv.org/abs/1812.06371?context=cs.LG1 核心思想:计算扰动前后的标签概率差与扰动带来的系统泰勒展开差值的比例,来判断当前约束大小是否合适。如果比例大,说明这个区域可以信任,继续增大扰动量,反之减小扰动量。其中分母为:2 工作:将对抗攻击问题转化为TR优化问题,结果优于FGSM和deepfool,扰动小。(但deepfo...原创 2019-11-18 15:41:42 · 480 阅读 · 0 评论 -
【迁移攻击笔记】ILA中间层攻击!对抗扰动の再扰动!EnhancingAdversarialExampleTransferability with an IntermediateLevelAttack
核心思想:注意:以下内容顺序与论文完全不符,我按照自己的思路写的,所以开头对不上不必惊慌。① 已知神经网络越往后越线性,所以对抗攻击中模型迁移的大问题背景下,肯定越线性越好迁移。② But!源模型往往最后过度线性了(可以理解为源模型对目标模型训练中的过拟合),所以最好也不要选太靠后的模型。③ 很多攻击方法诸如FGSM,捕捉梯度的,都是越往后层,对对抗方向的把握越好的。所以这些攻击方法基本都...原创 2019-11-20 21:32:28 · 1436 阅读 · 0 评论