Adversarial Attack

最新推荐文章于 2022-10-16 16:22:34 发布
最新推荐文章于 2022-10-16 16:22:34 发布
阅读量1.3k 收藏 3
点赞数 1
分类专栏： 机器学习的下一步-课程笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_30776035/article/details/99962232
版权

Adversarial Attack

Attack

尝试解释：在某个维度上，该类别的分布过于狭小陡峭，以至于稍微移动一点就到了别的不相关类别。

White-box attack

loss func

对图片进行optimition,使得网络输出远离正确输出，接近指定输出（Targeted Attack）。在一定约束下（更改不要太明显以至被发现）
在这里插入图片描述

constraint定义与实现

与原图片的距离函数，可选用l2-norm\L-infinity等衡量方式
实现时，更新得到的x如果不符合constraint，则选择符合constraint的点中最靠近x的那个。

Black-Box Attack

不可获得网络架构与参数 θ θ θ

可获得训练样本

训练一个proxy network模拟target network，攻击proxy network，得到的图片也可攻击target network.

不可获得训练样本

不断输入数据，得到n个输入-输出pair训练proxy network。

More

  • 一个相同的杂讯或许可以扰乱许多图片的判断
  • 可以对网络进行reprogramming，让它去做其他任务
  • 还可以攻击视频和文字
tsstaitixu
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
P101 adversial attack 对抗攻击- 体现AI的不可靠
weixin_39107270的博客
01-09 375
x 与 x0 在一定误差内，两者之间的loss 越大越好对抗攻击是指利用计算机系统或人工智能模型的弱点，通过修改输入数据，使得系统产生错误的结果或分类，而这种修改又对人类观察者来说几乎是无法察觉的。对抗攻击的目的在于欺骗或误导机器学习模型，使其在处理经过微小修改的输入数据时产生错误的输出。关键点：攻击类型：梯度攻击： 通过计算模型对输入数据的梯度，并对输入数据进行微小的修改，使模型产生错误的分类或预测。白盒攻击： 攻击者完全了解目标模型的结构和参数。
PGD_Towards deep learning models resistant to adversarial attacks_CSDN
qq_32925101的博客
12-17 2473
Towards Deep Learning Models Resistant to Adversarial Attacks Towards Deep Learning Models Resistant to Adversarial Attacks (PGD)，ICLR2018，涉及PGD和对抗训练。 **Abstract：**本文从优化的角度研究了神经网络的对抗鲁棒性问题。本文提出的方法提供了一个广阔、统一的观点来看待对抗样本的问题。本文提出方法的自然性质使得我们可以可靠的选择训练和攻击神经网络的方法，并且
对抗攻击survey
Evabook的博客
03-06 1463
对抗攻击（adversarial attacks）汇总对抗攻击概念 参考论文：Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey 对抗攻击概念 当前的深度网络极易受到对抗攻击的影响，这种攻击的形式是使人类视觉系统（几乎）无法察觉的图像的小干扰，然而却会让神经网络分类器完全改变它对图像的预测。更糟糕的...
对抗机器学习论文-Towards Deep Learning Models Resistant to Adversarial Attacks（PGD）
m0_57572083的博客
10-16 1363
对抗机器学习论文-Towards Deep Learning Models Resistant to Adversarial Attacks（PGD）
[论文阅读笔记]SEMANTIC ADVERSARIAL ATTACKS: PARAMETRIC TRANSFORMATIONS THAT FOOL DEEP CLASSIFIERS(ICCV)
Invokar的博客
07-28 1308
SEMANTIC ADVERSARIAL ATTACKS: PARAMETRIC TRANSFORMATIONS THAT FOOL DEEP CLASSIFIERS(2019 ICCV) 文章简介： 本文的出发点不同于以前的方法（例如修改某几个像素点或者在原图上添加扰动），本文的对抗样本是通过修改输入图像中某些特殊的特征（例如戴上眼镜），从而产生语义自然的图片的同时，还能愚弄分类器。 类型：w...
Adversarial Attack.pdf
06-27
台大机器学习李宏毅PPT
Adversarial Attack and Defense on Graph Data - A Survey
02-05
针对图数据的对抗攻击和防御技术综述.we aim to survey existing adversarial attack strategies on graph data and provide an unified problem formulation which can cover all current adversarial learning ...
基于Adversarial Attack的问题等价性判别比赛.zip
最新发布
09-30
【标题】"基于Adversarial Attack的问题等价性判别比赛" 这个比赛项目的核心是研究Adversarial Attack在问题等价性判断中的应用。Adversarial Attack，即对抗性攻击，是一种针对机器学习模型的策略，它通过向输入...
Adversarial-Attack
05-08
对抗攻击 PoC通过针对CNN（卷积神经网络）模型的对抗性攻击来推导识别域中的错误 作者：郑德贤 状态：完成 核心目标 使用CNN模型中的先前学习的数据（ 이미지넷 ）构建图像...# Adversarial Attack > python hack.py
AAAI 2021上与【对抗攻击（Adversarial Attack）】相关的论文（六篇）
02-28
基于对抗攻击（Adversarial Attack）相关的接受paper不少，这几年比如 对抗攻击、基于图数据的对抗攻击、NLP、CV上的攻击防御等等一些列前沿的方法和应用受到了很多人的关注，也是当前比较火的topic。
Silent-Face-Anti-Spoofing-APK
03-19
该项目为的静默活体检测算法在安卓平台的部署代码。
Targeted-Adversarial-Attack:一种有针对性的对抗攻击方法，赢得了NIPS 2017有针对性的攻击攻击竞赛
05-16
有针对性的专业攻击 介绍 该存储库包含提交给的前1名提交者的代码。 方法 我们使用动量迭代法来生成对抗性示例。 我们总结了算法（CVPR 2018，Spotlight）。 我们注意到针对性攻击几乎没有可传递性。 这一发现不仅来自我们的实验，而且来自于本次比赛的其他提交者。 我们认为，很难为具有大量类（即1000个）的ImageNet数据集找到可传递的对抗性示例，因为两个类之间的决策边界对于不同的模型可能不会显示出相同的属性。 引文 如果您在研究中使用动量迭代法进行攻击，请考虑引用 @inproceedings{dong2018boosting, title={Boosting Adversarial Attacks with Momentum}, author={Dong, Yinpeng and Liao, Fangzhou and Pang, Tianyu and Su,
读书笔记17：Adversarial Attacks on Neural Networks for Graph Data
b224618的博客
09-05 7752
https://arxiv.org/pdf/1805.07984.pdf 看过之后有一个思考，adversarial attack的目标是事先选定一个class，然后选择攻击方式，尽可能使得模型把样本分类成这个类别，并且class probability和原class的probability拉开差距，但是可不可以将目标设定为最小化原分类class的probability，也就是只将目标定位为使t...
任何机器学习分类器都可以被欺骗！一文解析对抗性攻击是如何工作的
雷克世界
10-19 3951
原文来源：XIX.ai 作者：Roman Trusov 「雷克世界」编译：嗯~阿童木呀、多啦A亮 本文大约5100字，阅读时长大约13分钟 Google Brain最新的研究结果表明，任何机器学习分类器都可以被欺骗，从而给出不正确的预测结果，并且只要有一点相关专业技能，你可以让它们给出任何你想要的结果。 这一事实逐渐变得令人感到不安，因为现如今
AI 可靠性论文整理
wallace_www的博客
09-25 5020
AI 可靠性论文整理鲁棒性 Robustness相关文献高优先级对抗样本设计与抵御鲁棒性评估其他鲁棒性研究次要优先级公平性 Fairness相关文献高优先级次要优先级可解释性 Explainability相关文献高优先级次要优先级可追溯性 Lineage相关文献名词解释 鲁棒性 Robustness 通过暴露和修复漏洞来确保AI系统的安全性和可靠性 识别并防御新的攻击 设计新的对抗性训练方...
从集合中查找最值得方法——max(),min(),nlargest(),nsmallest()
weixin_34216196的博客
01-05 349
从集合中查找最值得方法有很多，常用的方法有max(),min(),nlargest(),nsmallest()等。 一、max()和min() 1.1 入门用法 直接使用max(),min()，返回可迭代对象中的最大值和最小值。 1 a = [1, 5, 2, 1, 9, 1, 5, 10] 2 print(max(a)) 3 print(min(a)) 4 5 #运行结果如...
[论文笔记]Decoupling Direction and Norm for Efficient Gradient-Based L2 Adversarial Attacks and Defenses
Invokar的博客
08-06 1844
Decoupling Direction and Norm for Efficient Gradient-Based L2 Adversarial Attacks and Defenses(2019 CVPR Oral) 文章简介： 本文提出了一种有效的基于梯度的攻击方法DDN，通过对图像中添加的对抗性扰动的方向和范数进行解耦，从而在L2范数较低的情况下成功攻击目标网络。在2018 NIPS Ad...
【李宏毅2020 ML/DL】P26-33 Explainable ML
记录学习痕迹的公众号：Piper蛋窝
07-29 666
可解释机器学习，很有意思的一节课。
2020李宏毅机器学习笔记-Explainable ML
zn961018的博客
05-22 465
目录 概述 Introduction Why we need Explainable ML? Lee’s Point of View Interpretable v.s. Powerful Local Explanation Basic Idea Limitation of Gradient based Approaches Attack Interpretation Global Explanation Activation Minimization (review) Constr
nips17-adversarial-attack代码运行环境
04-04
nips17-adversarial-attack代码的运行环境需要具备以下条件： 1. Python 3.5或更高版本； 2. PyTorch 0.4或更高版本； 3. NumPy和SciPy库； 4. CUDA（如果使用GPU进行计算）。 建议在Linux或macOS操作系统下运行...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值