Adversarial Attack

最新推荐文章于 2024-09-26 16:29:40 发布
最新推荐文章于 2024-09-26 16:29:40 发布
阅读量159 收藏
点赞数
分类专栏： 机器学习日记 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/baibaidoudou/article/details/119510010
版权
本文探讨了深度学习模型中的对抗攻击，如Fast Gradient Sign Method（FGSM），该方法通过向输入添加微小扰动来误导网络输出。攻击的目标是使网络对特定输入的分类错误，同时保持改动对人类不可察觉。此外，还讨论了如何限制这种攻击以确保输入变化在人类可接受范围内，并提出了防御对抗攻击的策略。
摘要由CSDN通过智能技术生成

目录

1.Example

2.How to Attack

3.Non-perceivable

4.Attack Approach

1.Example

 给Benigh Image加些非常小的杂讯，叫做攻击，目的是让Network输出其他东西

2.How to Attack

 目的是让输出y与\hat{y}之间区别越大越好，取负号越小越好算Loss Function

 现在还希望y与y^{target}越近越好，即不光cat的几率越低越好，fish的几率越高越好

 同时我们希望x与x0之间的差距小于等于一个阈值\varepsilon（人类分辨不出来）

3.Non-perceivable

 对人类而言，对L-infinity的感知力是最大的，让L-infinity小更好，当作限制。

4.Attack Approach

 

与过去的Gradient Descent不同的是，以前是修改参数，现在是修改Input。

 如果修改input后x^0超过限制了，那就在范围内找一个最近的点修改。

Fast Gradient Sign Method(FGSM)

 sign的意思是如果括号里的值>0则为1，反之则为-1

令\eta为\varepsilon，则每次x^t的值必在限制内。

 如果经过几次iteration后，x出了范围内，则看L-infinity四边形哪个角落离x最近，就回到那个角。

baibaidoudou
关注
专栏目录
Adversarial Attack.pdf
06-27
首先，“Adversarial Attack”即对抗性攻击是机器学习领域中，尤其在深度学习和模型安全方面研究的一个热点问题。对抗性攻击利用了模型尤其是深度学习模型的脆弱性，通过对输入数据进行精心设计的微小扰动，使得模型...
李宏毅机器学习笔记第16周_来自人类的恶意攻击（Adversarial Attack）
peaunt1的博客
07-31 676
Adversarial Attack
Adversarial Attack (对抗攻击)
连理o的博客
09-19 5149
本文为李宏毅 2021 ML 课程的笔记 目录Basic ConceptsMotivationHow to Attack Basic Concepts Motivation Are networks robust to the inputs that are built to fool them? Useful for spam classification, malware detection, network intrusion detection, etc. How to Attack .
2022.6.19 第十一次周报
weixin_43971717的博客
06-20 510
目录一、How to Attack1.Example of Attack2.How to Attack（White Box Attack）3.Non-perceivable4.Attack ApproachGradient DescentFast Gradient Sign Method (FGSM)Iterative FGSM5.White Box v.s. Black Box6.Black Box Attack7.Attack in the Physical World攻击人脸识别系统攻击路牌识别系统8
Adversarial Attack and Defense on Graph Data - A Survey
02-05
针对图数据的对抗攻击和防御技术综述.we aim to survey existing adversarial attack strategies on graph data and provide an unified problem formulation which can cover all current adversarial learning ...
基于Adversarial Attack的问题等价性判别比赛.zip
09-30
【标题】"基于Adversarial Attack的问题等价性判别比赛" 这个比赛项目的核心是研究Adversarial Attack在问题等价性判断中的应用。Adversarial Attack，即对抗性攻击，是一种针对机器学习模型的策略，它通过向输入...
Adversarial-Attack
05-08
对抗攻击 PoC通过针对CNN（卷积神经网络）模型的对抗性攻击来推导识别域中的错误 作者：郑德贤 状态：完成 核心目标 使用CNN模型中的先前学习的数据（ 이미지넷 ）构建图像...# Adversarial Attack > python hack.py
AAAI 2021上与【对抗攻击（Adversarial Attack）】相关的论文（六篇）
02-28
基于对抗攻击（Adversarial Attack）相关的接受paper不少，这几年比如 对抗攻击、基于图数据的对抗攻击、NLP、CV上的攻击防御等等一些列前沿的方法和应用受到了很多人的关注，也是当前比较火的topic。
人工智能与机器学习原理精解【24】
理论物理与应用物理之家
09-20 1210
正态分布的定义基于其概率密度函数（Probability Density Function, PDF），该函数描述了随机变量取某一特定值的可能性。正态分布由两个参数决定：均值（μ）和标准差（σ）。均值决定了分布的中心位置，而标准差决定了分布的宽度或离散程度。
机器学习和深度学习的区别
WenJGo的博客
09-22 1213
探讨深度学习与机器学习，以及他俩与人工智能的关系
机器学习笔记（一）初识机器学习
weixin_53333436的博客
09-20 1329
机器学习是一门多学科交叉专业，涵盖概率论知识，统计学知识，近似理论知识和复杂算法知识，使用计算机作为工具并致力于真实实时的模拟人类学习方式，并将现有内容进行知识结构划分来有效提高学习效率。机器学习有下面几种定义：（1）机器学习是一门人工智能的科学，该领域的主要研究对象是人工智能，特别是如何在经验学习中改善具体算法的性能。（2）机器学习是对能通过经验自动改进的计算机算法的研究。（3）机器学习是用数据或以往的经验，以此优化计算机程序的性能标准。简要概念：让机器具备找一个函式的能力。
【机器学习-无监督学习】聚类
Morse_Chen的博客
09-24 2562
本文主要介绍了k均值聚类算法和其改进版k-means++，并动手实现了k均值算法。然后学会使用sklearn中的Kmeans算法、层次聚类算法和DBSCAN算法。
机器学习 | Scikit Learn中的普通最小二乘法和岭回归
python收藏家的博客
09-21 730
在统计建模中，普通最小二乘法（OLS）和岭回归是两种广泛使用的线性回归分析技术。OLS是一种传统的方法，它通过最小化预测值和实际值之间的平方误差之和来找到数据的最佳拟合线。然而，OLS可以遭受高方差和过拟合时，预测变量的数量是大的。为了解决这个问题，岭回归引入了一个正则化项，将系数缩小到零，这可以导致具有较低方差的更好模型。
决策树与随机森林在机器学习中的应用
Chujun123528的博客
09-23 1069
决策树是一种非线性有监督分类模型，它通过树状结构模拟人类决策过程，将数据集分割成不同的子集，并在每个子集上应用特定的规则来预测目标变量的值。决策树的节点表示数据集中的特征，边表示这些特征的取值，叶子节点表示最终的预测结果。：对于一个新的输入样本，随机森林中的每一棵决策树都会对其进行分类，然后随机森林通过投票（对于分类任务）或平均（对于回归任务）每棵树的输出来决定最终的分类或预测值。：在树的每个节点上，随机选择一部分特征（而不是全部特征）作为候选划分属性，然后选择最优的划分属性进行划分。
【machine learning-13-线性回归的向量化】
zishuijing_dd的博客
09-20 561
那么究竟为什么用向量化的方式表达呢？利用硬件加速的原理，实现并行的计算
机器学习与深度学习的区别：深入理解与应用场景
Fanstay985的博客
09-23 768
机器学习是人工智能的一个分支，它让计算机能够从数据中学习并自动改进其性能，而无需进行显式编程。机器学习的起源可以追溯到20世纪50年代，当时出现了如决策树和逻辑回归等简单算法。其核心思想是通过算法让计算机从大量数据中找出模式和规律，进而对新数据进行预测或决策。
机器学习查漏补缺(4)
garrulousabyss的博客
09-23 1013
[M] What happens if we accidentally duplicate every data point in your train set or in your test set?Train set duplication: Duplicating every data point in the training set will effectively double the importance of each sample, but it won’t introduce new i
【机器学习(十一)】机器学习分类案例之是否患糖尿病预测—XGBoost分类算法—Sentosa_DSML社区版
最新发布
KennethYuen
09-26 1234
机器学习分类案例之是否患糖尿病预测—XGBoost分类算法—Sentosa_DSML社区版，本文将利用糖尿病数据集，通过Python代码和Sentosa_DSML社区版分别实现构建XGBoost分类预测模型。随后对模型进行评估，包括评估指标的选择与分析。最后得出实验结果结论，展示模型在糖尿病分类预测中的有效性和准确性，为糖尿病的早期诊断和干预提供了技术手段和决策支持。
【第十四章：Sentosa_DSML社区版-机器学习之时间序列】
KennethYuen
09-23 1067
Sentosa_DSML社区版-机器学习时间序列，机器学习时间序列算法合集
nips17-adversarial-attack代码运行环境
04-04
nips17-adversarial-attack代码的运行环境需要具备以下条件： 1. Python 3.5或更高版本； 2. PyTorch 0.4或更高版本； 3. NumPy和SciPy库； 4. CUDA（如果使用GPU进行计算）。 建议在Linux或macOS操作系统下运行...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值