![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
对抗攻击
文章平均质量分 95
懒惰才能让科技进步
中科院在读博士一枚
展开
-
CVPR2022《Improving the Transferability of Targeted Adversarial Examples through Object-Based》论文解读
高度可移动的对抗性示例意味着针对一个模型制作的示例很可能也会成功地攻击另一个模型,即使这些模型有不同的架构或使用不同的数据集进行训练。因此,提高对抗性示例的可移动性对于评估人工智能系统在多变和不可预测的实际环境中的鲁棒性至关重要。总结来说,尽管以往的研究在提高对抗样本的迁移性方面取得了一定进展,但仍存在对特定模型过度优化、实际应用的复杂性和效率问题等局限性。通过这些步骤,ODI方法能够在不同的渲染环境中(包括不同的照明和视角)有效地提高目标对抗性示例的迁移性。作为最终的对抗性示例。难以抵御的对抗性示例。原创 2023-12-19 16:50:46 · 1115 阅读 · 1 评论 -
人工智能顶会CVPR2022《Adversarial Texture for Fooling Person Detectors in the Physical World》论文解读
这项研究的背景建立在对抗性攻击的概念上,这种攻击通过修改输入数据来误导机器学习模型。人体检测系统在安全监控、自动驾驶汽车等领域中至关重要,因此研究其潜在的脆弱性对于提高这些系统的鲁棒性和安全性至关重要。论文通过实际测试证明了对抗性纹理在物理世界中对人体检测器的欺骗效果,这不仅对理论研究有重要意义,也为实际应用中的安全措施提供了重要见解。原创 2023-12-14 15:58:16 · 1256 阅读 · 1 评论 -
人工智能顶会ECCV2022《Watermark Vaccine: Adversarial Attacks to Prevent Watermark Removal》论文解读
论文方法的局限性水印尺寸和透明度:实验表明,水印尺寸变大或水印的透明度参数α\alphaα变大时,DWV和IWV的保护效果会下降。这意味着水印疫苗的性能在一定程度上取决于水印变化∥w∥∥w∥的大小,更好的保护效果依赖于较小的∥w∥∥w∥变化。版权所有者的挑战:版权所有者需要在水印的大小和透明度之间做出选择,以便既便于版权识别又能有效保护水印。大尺寸和低透明度水印有助于版权识别,而小尺寸和高透明度水印则更有利于保护水印疫苗。原创 2023-12-12 20:16:39 · 1512 阅读 · 2 评论 -
人工智能顶会ICCV2021《On the Robustness of Vision Transformers to Adversarial Examples》论文解读
ViTs的安全性与传统CNNs相当:研究发现,尽管ViTs在图像处理任务中表现出色,但它们在白盒攻击条件下的安全性并不优于传统的卷积神经网络(CNNs)。这表明ViTs在对抗性攻击下同样易受攻击,特别是在面对强大的白盒攻击时。对抗性样本的低可转移性:论文中的实验显示,ViTs与其他非变换器模型(如CNNs)之间的对抗性样本可转移性出奇地低。这表明在一定程度上,ViTs对某些特定类型的攻击具有天然的防御优势。自注意力梯度攻击(SAGA)的提出:这篇论文提出了一种新型的白盒攻击方法——SAGA。原创 2023-12-11 19:28:06 · 1217 阅读 · 0 评论 -
人工智能顶会 ICLR 2023《Is Adversarial Training Really a Silver Bullet for Mitigating Data Poisoning?》论文解读
在应用EntF-push攻击时,通过添加扰动,狗的图像在特征空间中被推离原本狗类别的中心点,使得模型难以从这些扰动的图像中学习到区分狗和猫的有效特征。在EntF攻击中,这些中心点用于指导扰动的添加,目的是使得训练样本在特征空间中离开(EntF-push)或靠近(EntF-pull)这些中心点,从而破坏模型的学习过程。通过这种方法,EntF策略有效地降低了模型在未受攻击的测试数据上的准确性,因为模型无法从被纠缠的训练数据中学习到区分不同类别的有效特征。:对于每个类别,计算其所有样本的潜在特征表示的平均值。原创 2023-12-04 15:03:27 · 1367 阅读 · 0 评论 -
人工智能顶会ICLR2023《Revisiting adapters with adversarial training》论文解读
总结本研究提供了对适配器与对抗性训练结合使用的新见解,特别是在Vision Transformer (ViT) 模型中实现了显著的性能提升。实验结果显示,即使是非常少量的双参数适配器也足以适应干净和对抗性图像,这表明我们不必分离正则化层就能复制AdvProp的效果。通过使用两个分类标记作为适配器,增加了768个额外参数,实现了在ImageNet上83.56%的干净准确率,以及在鲁棒模式下49.87%的鲁棒准确率,这表明这种方法是在提升模型性能的同时增强其抵抗对抗性攻击的有效策略。权重的共同训练损失。原创 2023-12-03 14:53:31 · 1494 阅读 · 1 评论 -
《StyLess: Boosting the Transferability of Adversarial Examples》论文解读
对抗样本具有迁移性,所以可以攻击不知道结构和参数的model限制对抗样本迁移性的原因:现在的transferable attack在优化过程中没有区分style和content特征我们提出了我们使用stylized networks作为,通过扰动自适应实例规范化来编码不同的风格特征。surrogate model(替代模型):通常是已知且可访问的深度神经网络模型,攻击者使用这个模型来生成对抗性扰动或样本。然后利用它们去攻击其它的黑箱模型。本文的方法可以防止使用。原创 2023-11-28 21:32:52 · 778 阅读 · 0 评论 -
《Improving adversarial robustness via channel-wise activation suppressing》详细解读
本文从的方面发现了对抗样本具有如下特征:1.对抗样本的activation magnitudes高于自然样本。2.对抗样本比样本更能uniformly的activate channel。在我们的研究中,发现对抗训练解决了第一个问题**本文的想法:**基于Channel-wise Activation Suppressing (CAS)的方法压缩冗余的激活。原创 2023-11-26 16:17:12 · 944 阅读 · 1 评论 -
《Reinforcement Learning-Based Black-Box Model Inversion Attacks》详细解读
什么是Inversion attack?Inversion attack是一种隐私攻击,仅通过访问模型来重建用于训练机器学习模型的私有数据。利用GAN从公用数据中提取知识然后进行白盒模型的inversion attack效果很好。利用GAN在黑盒模型中进行inversion attack的攻击无法保证在有限的查询次数内完成攻击,而且效果不如白盒攻击。为了克制上述问题:本文提出了一种基于强化学习的黑盒inversion attack。原创 2023-11-24 16:43:11 · 1003 阅读 · 0 评论