【黑盒对抗攻击】ICML 2021：SPADE: A Spectral Method for Black-Box Adversarial Robustness Evaluation

最新推荐文章于 2024-12-31 20:06:01 发布
最新推荐文章于 2024-12-31 20:06:01 发布
阅读量476 收藏 1
点赞数
分类专栏： ▶ 深度学习-计算机视觉 文章标签： 对抗攻击 黑盒攻击 模型可解释性 人工智能 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44936889/article/details/119853621
版权
本文介绍了一种名为SPADE的黑盒方法，用于评估机器学习模型的对抗性鲁棒性。通过分析输入/输出数据的双射距离映射，SPADE使用谱图理论量化模型的鲁棒性。它计算输入/输出图的拉普拉斯矩阵的最大广义特征值作为对抗性鲁棒性的度量，该值还是最佳利普希茨常数的上界。此外，SPADE还能为每个数据样本分配鲁棒性评分，用于指导对抗性训练和增强模型的鲁棒性。实验结果表明，SPADE在MNIST和CIFAR-10数据集上表现出色。
摘要由CSDN通过智能技术生成

【黑盒对抗攻击】SPADE: A Spectral Method for Black-Box Adversarial Robustness Evaluation

论文地址：

https://arxiv.org/abs/2102.03716

代码地址：

https://github.com/Feng-Research/SPADE

论文摘要：

这篇文章介绍了一种黑盒谱方法来评估给定机器学习模型的对抗性鲁棒性，作者将该方法方法命名为SPADE，该方法利用了输入/输出图之间的双射距离映射，其中这些图被构造为近似与输入/输出数据对应的流形

利用广义的考特-费舍尔定理（Courant-Fischer theorem），作者提出了一个评价给定模型对抗鲁棒性的 SPADE 分数，并证明了它是流形设置下最佳利普希茨常数（Lipschitz constant）的上界

为了揭示最容易受到对抗性攻击的非鲁棒数据样本，作者开发了一个利用优势广义特征向量的谱图嵌入算法，这个嵌入算法允许为每个数据样本分配一个鲁棒性评分，可以进一步用于更有效的对抗性训练

作者的实验表明，所提出的 SPADE 方法为使用MNIST和CIFAR-10数据集进行反向训练

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【简易的黑盒对抗攻击】Simple Black-box Adversarial Attacks
风口IT猪的成长录
09-26 588
在计算机视觉领域，对抗攻击（adversarial attack）旨在通过向图片中添加人眼无法感知的噪音以欺骗诸如图像分类、目标识别等机器学习模型。如下图所示，输入原图像，图像分类器给出的结果为“是熊猫的概率为57.7%”，而在给原图像加上一段噪音后，结果变成了“是长臂猿的概率为99.3%”，但对于人类来说，这两张图片几乎是一模一样的。经噪音干扰后的图像被称为对抗样本对抗攻击的主要研究内容之一就是如何获得这种噪音来生成对抗样本。
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition针对人脸识别系统的高效黑盒对抗攻击算法
GAN_CVer的博客
12-02 2576
背景 在图 1 示例中，我们用同样的一个人脸识别模型（Arcface [1]）对两幅看起来一模一样的人脸图像进行识别，但是得到了完全不同的两个识别结果。这是为什么呢？原因是右图的人脸区域被加上了人眼无法察觉的恶意噪声，专门用于欺骗人脸识别模型。这种现象叫做对抗样本，即针对某种特定的模型（例如图像分类模型 ResNet [2]），在正常样本（例如 2D 图像，3D 点云等）上加入微小的噪声，使得模型...
CVPR2021—SurFree：一个快速的无代替模型的黑盒攻击
我爱计算机视觉
07-05 549
1 前言该论文是关于黑盒对抗攻击的研究并发表于。近几年的研究表明黑盒攻击提交给目标分类器的查询数量已经显著减少，访问效率大大提升。在该论文中作者介绍了一种基于几何原理的黑盒攻击方法。它可以...
Uncertainty——ICML 2021、IPMI 2021
catfishH的博客
10-20 620
1. Uncertainty Principles of Encoding GANs   在实践中证明了三种不确定性原则：a）“完美”编码器和生成器不能同时连续，这意味着当前编码 GAN 的框架不适; b）神经网络不能正常地近似于底层编码器和生成器，无法在以前的理论中获得“完善”的编码器和发电机; c）神经网络不能同时稳定和准确，表明保真度和解耦之间的训练和平衡难度。 2. Amortized Conditional Normalized Maximum Likelihood: Reliable Ou
SPADE（GauGAN）算法笔记
热门推荐
AI之路
08-27 1万+
论文：Semantic Image Synthesis with Spatially-Adaptive Normalization 论文链接：https://arxiv.org/abs/1903.07291 代码链接：https://github.com/NVlabs/SPADE 项目主页链接：https://nvlabs.github.io/SPADE/ 图像生成领域最近今年有不少出色的作品，比...
生成式对抗网络（GAN）-（Generative Adversarial Networks）算法总结（从原始GAN到....目前）
weixin_44474718的博客
05-30 1万+
本文将按时间顺序总结gan的paper（非所有，会挑选个人认为比较重要的），并将参考其它博客（会给出链接），如有侵权，请私信删除。 ???? （2014.06-arXiv）GAN:Generative Adversarial Nets【论文原文】【参考文章】 ????contributions： 开山之作； 原理：生成网络和判别网络的互相对抗。生成网络尽可能生成逼真样本，判别网络则尽可能去判别该样本是真实样本，还是生成的假样本。 采用JS散度作为评判依据。 loss函数（原始gan损失函数的详细解释）：
ICML(2020)对抗学习论文汇总
zenRRan的博客
02-11 579
点击上方，选择星标，每天给你送干货！来自 |知乎作者 |GeorgeLee地址 |https://zhuanlan.zhihu.com/p/145624170编辑 |机器学习算法与...
论文那些事—Black-box Adversarial Attacks with Limited Queries and Information
shuweishuwei的博客
11-10 1109
Black-box Adversarial Attacks with Limited Queries and Information（ICML2018） 1、摘要 黑盒模型是指只能获得它的输入输出，但在真实世界中，黑盒模型往往连输入输出都有一定限制，比如限制查询次数，当过度频繁访问一个模型，模型有可能自锁不允许访问，针对现实世界的黑盒模型，作者提出三个真实的威胁模型：查询量有限、部分信息设置和仅标签有限。针对这三个问题，作者提出了一种新的黑盒攻击方法。本文受自然进化策略（NES）的启发，提出使用NES作
simple-blackbox-attack:ICML 2019论文代码“简单的黑匣子对抗攻击”
05-06
简单的黑匣子对抗攻击。 我们的代码使用CUDA 9.0和Python 3.5的PyTorch（pytorch> = 0.4.1，torchvision> = 0.2.1）。 脚本run_simba.py包含用于使用各种选项运行SimBA和SimBA-DCT的代码。 要运行SimBA（像素...
科研篇四：对抗样本20篇-ICML2019
weixin_38316806的博客
10-22 1748
文章目录一、对抗攻击（Adversarial Attack）1.1.Adversarial Attacks on Node Embeddings via Graph Poisoning1.2.Adversarial camera stickers: A physical camera-based attack on deep learning systems二、对抗防御2.1.Using Pre-...
CVPR 2021 | 新型黑盒对抗攻击模拟未知网络进行攻击
Paper weekly
05-09 2009
作者｜马晨来源｜机器之心目前，研究者们提出了越来越多的黑盒攻击算法，其中基于「模拟」的攻击成为了一种新的攻击形式。来自清华的研究者解决了模型窃取攻击中长久以来存在的一个问题：训练代理模型...
white/black-box attack(黑盒白盒攻击基础)
山里娃的博客
03-29 7437
黑盒白盒攻击基础
ICLR 2021 | 腾讯 AI Lab 入选论文解读
腾讯AI实验室
02-08 855
感谢阅读腾讯AI Lab微信号第120篇文章。本文将介绍解读7篇ICLR 2021腾讯 AI Lab 入选论文。ICLR（International Conference on Lea...
streamlit、shiny、gradio、fastapi四个web APP平台体验
最新发布
skyskytotop的博客
12-31 694
web APP的代码相对简单，门槛不高；花费也不多，更不需要像手机app等被各大平台限制，也不需要软件著作权。相对地，功能却很广泛，数据分析上可以把自己的数据分析套路固定成APP，节省分析的时间并分享给别人使用；机器学习和深度学习上以承载构建的模型并实现与用户的交流。随着AI时代的到来，在AI应用方面也会占有一定的地位。
pyQT + OpenCV小练习
h1413517383的博客
12-28 857
锐化——使用cv2.Laplacian()、cv2.Sobel()实现。当用户点击下拉列表选项时，相应地更新窗口中显示的图像。提供一个按钮，当用户点击按钮时，能保存调整后的图像。模糊——使用cv2.GaussianBlur()实现。cv2.warpAffine（对图像进行放射变换）当用户点击按钮时，相应地更新窗口中显示的图像。边缘检测——使用cv2.Canny()实现。cv2.cvtColor（转换为灰度图）在 PyQt 的窗口中显示这张图像。在 PyQt 的窗口中显示这张图像。
AI代理：构建智能自主性的明智方法
XianxinMao的博客
12-29 984
在当今的科技环境中，自主性被视为AI系统的核心特征。随着诸如Salesforce和HubSpot等技术巨头的推陈出新，诸多企业声称他们的AI代理具有革命性变化的潜力。然而，当前市场上许多AI代理的表现远未达到“完全自主”的标准。这引发了一个重要问题：即使我们能够实现完全自主的AI代理，它们是否真的是用户的最佳解决方案？本文将探讨AI代理的核心概念及其功能，帮助您更好地理解自主性的重要组成部分和实际应用。
横向对比四大Crypto×AI框架：采用状况、优劣势、增长潜力
Odaily_的博客
12-30 976
未来的百亿级赛道，种子选手们已展开角逐。原文：Deep Value Memetics；译者：Azuma；编辑：郝方舟出品|Odaily星球日报（ID：o-daily）要点概述在这份报告中，我们讨论了 Crypto & AI 领域内几大主流框架的发展格局。我们将审视当前的四大主流框架 —— Eliza（AI16Z）、G.A.M.E（GAME）、Rig（ARC）、ZerePy（ZEREBR...
【MySQL】细致入微讲解篇：深度学习与探索数据库索引
m0_66360096的博客
12-27 986
*前言:**本节内容主要讲解索引的下半部分。注意： 索引是很重要的知识点。务必学习！！本节将会主要索引的本质B+树， 以及为什么选择B+和操作索引。下面友友们开始学习吧！
PyTorch实战|运动鞋识别
weixin_52390875的博客
12-27 782
数据收集确定数据来源：明确数据是来自数据库、文件系统、网络爬虫、传感器等。例如，在构建一个图像识别模型时，数据可能来源于互联网上的公开图像数据集，像 CIFAR - 10（由 10 个不同类别的 60000 张 32x32 彩色图像组成）；或者是通过专门的图像采集设备获取。获取相关数据：按照预先确定的来源渠道，收集足够数量的数据。对于文本分类任务，可能需要从新闻网站、学术论文库等地方收集文本内容，并标注好类别，如财经新闻、科技新闻等。数据清理处理缺失值识别数据集中哪些属性存在缺失值。
ICML2021：探索无监督学习在程序修复中的应用
资源摘要信息:"该资源名为'[ICML2021]Break-It-Fix-It：程序修复的无监督学习_Python_Shell_下载.zip'，主要关注程序修复领域中利用无监督学习方法的研究。ICML（国际机器学习会议）是机器学习领域的重要学术会议，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BIT可达鸭

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>