- 博客(14)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 DiffAttack:一种专门针对diffusion净化噪声的自适应攻击方法
论文:DiffAttack: Evasion Attacks Against Diffusion-Based Adversarial Purification。
2024-03-02 11:36:23
1165
2
原创 Set-level Guidance Attack：一种针对VLP模型的高迁移性对抗样本攻击方法
1.1 摘要研究背景：文章指出，视觉-语言预训练模型（Vision-Language Pre-training, VLP）在多模态任务中表现出对对抗性示例（adversarial examples）的脆弱性。这些模型尽管在多种任务上取得了显著性能，但仍然容易受到攻击研究动机：尽管现有的研究主要集中在白盒攻击（white-box attacks）上，即在攻击者可以完全访问目标模型的情况下，但跨模型的对抗性示例的迁移性（adversarial transferability）尚未得到充分研究。
2024-02-28 11:38:32
957
1
原创 对抗样本方向论文泛读笔记(长期更新)
作者借鉴了Photographic tone reproduction的思想，基于 ADE20K数据集构建了针对不同语义类的“颜色分布的分布”（“distribution of color distributions“，DoD）。具体来说，对于每个类别，DoD 提供了 20 个不同的主要分布集（由颜色分布表示），这些分布集是通过基于数据集中相应分割类别的调色板的层次聚类获得的，然后，由于每个簇中语义类的颜色分布相似，我们在每个簇中选择一个对象来表示该样式，最后，我们提取颜色分布形成我们的颜色分布库。
2024-02-25 15:59:46
413
1
原创 AI-GAN: ATTACK-INSPIRED GENERATION OF ADVERSARIAL EXAMPLES 论文精度
先前的对抗样本生成方法如FGSM,JSMA,PGD,C&W attack生成能力是有限的，即他们一次只能执行一个特定的目标攻击。不同的目标需要重新培训。意思是不同的对抗样本生成需要不断训练，2)它们很难扩展到现实世界的数据集。大多数基于GAN的先前工作仅在MNIST和CIFAR-10上评估了他们的方法，这对于复杂的现实任务是不可行的(1)我们提出了一种新的Attack-Inspired GAN框架，称为AI-GAN，其中生成器，鉴别器和攻击者共同训练。
2024-02-25 15:07:30
1009
转载 FlashAttention知识点笔记
这导致在处理长序列时速度变慢且内存需求巨大。前向的时候我们为了减少hbm的访问次数，降低内存消耗，我们其实没有对这个sp矩阵进行存储，但我们在反向传播计算梯度的时候，确实是需要sp矩阵的信息，我们这里则采用重新计算的方式来计算对应的梯度，在上面前向计算的时候我们不会存储sp矩阵，但我们会存储对应 的指数之和L来进行梯度的计算。同时，在前向的过程中，我们采用分块计算的方式，避免了中间计算过程S, P矩阵的存储开销，整体的运算都在SRAM内进行，降低了HBM访问次数，大大提升了计算的速度，减少了对存储的消耗。
2024-02-24 18:27:02
49
原创 FeatureSpaceAttack：一种基于风格迁移的针对图片特征空间而非像素空间的黑盒攻击方法
论文：Towards Feature Space Adversarial Attack by Style Perturbation。
2024-02-19 21:06:51
904
1
原创 Revisiting Adversarial Training at Scale：一种针对大模型进行加速对抗训练的方法
Revisiting Adversarial Training at Scale 论文粗读
2024-02-13 17:15:14
864
原创 guided diffu-sion model for purification&&DiffPure:基于diffusion净化对抗样本的防御方法
guided diffu-sion model for purification 论文和Diffusion Models for Adversarial Purification两篇论文的原理笔记以及代码实现笔记
2024-01-25 16:55:49
1521
1
原创 Auto Attack&APGD:一种评估模型鲁棒性的弱参数攻击方法
论文:Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks.测试对抗性鲁棒性的最流行方法是PGD攻击，因为它的计算成本低廉，并且在许多情况下性能良好。是潜在失败的两个原因，评估不佳的另一个原因是所，因为大多数论文仅依赖于PGD或较弱的版本（例如FGSM）给出的结果。例如，两种不同的攻击具有不同的性质：白盒FAB攻击和黑盒Square攻击。
2024-01-23 19:34:29
869
1
原创 Square Attack:一种基于随机搜索和得分的黑盒攻击方法的原理以及代码实现
Square Attack:一种基于随机搜索和得分的黑盒攻击方法的原理以及代码实现，论文:Square Attack: a query-efficient black-box adversarial attack via random search
2024-01-23 16:59:55
1802
1
原创 Co-Attack:针对VLP模型的对抗样本攻击
针对论文:Towards Adversarial Attack on Vision-Language Pre-training Models 的论文笔记，详细介绍其中Co-Attack对Clip模型的攻击以及代码
2024-01-19 15:51:17
1598
5
原创 diff-PGD:基于DM改进的PGD攻击
论文：Diffusion-Based Adversarial Sample Generation for Improved Stealthiness and Controllability。
2024-01-15 21:51:12
1261
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人