Talk预告 | 几何的魅力: 黑盒攻击新策略

最新推荐文章于 2024-07-18 12:16:07 发布
最新推荐文章于 2024-07-18 12:16:07 发布
阅读量751 收藏
点赞数
分类专栏： 每周Talk上架 文章标签： 计算机视觉 黑盒对抗攻击 几何方法 NeurIPS
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hanseywho/article/details/128545486
版权

本期为TechBeat人工智能社区第468期线上Talk！

北京时间1月4日(周三)20:00，清华大学软件工程专业博士——马晨的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “几何的魅力：黑盒攻击新策略”，届时将介绍如何巧妙借助几何方法优化基于决策的黑盒攻击。

 

Talk·信息

▼

主题：几何的魅力：黑盒攻击新策略

嘉宾：清华大学软件工程专业博士 马晨

时间：北京时间 1月4日 (周三) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

点击下方链接，即可观看视频

TechBeatTechBeat是荟聚全球华人AI精英的成长社区，每周上新来自顶尖大厂、明星创业公司、国际顶级高校相关专业在读博士的最新研究工作。我们希望为AI人才打造更专业的服务和体验，加速并陪伴其成长。https://www.techbeat.net/talk-info?id=745

Talk·介绍

▼

尽管深度学习系统被广泛应用到人脸识别、目标检测、自动驾驶等领域中，但是无论是基于卷积神经网络还是基于Transformer的分类系统都存在严重的缺陷：一个小小的基于像素的对抗扰动就可以使其分类判断错误，从而引发更严重的后果！基于决策的攻击（又称硬标签攻击或hard-label攻击）是一种无需分类器的分类概率，仅用分类器输出的分类标签就可以对图像分类器进行攻击的方法，是最具安全威胁的对抗攻击类型之一。

本Talk介绍NeurIPS大会上发表的一篇论文，如何利用几何方法优化hard-label attack这种攻击！以往的硬标签攻击使用的对抗样本搜索方向往往是启发性的方向，例如HopSkipJumpAttack（HSJA）和QEBA中的近似梯度方向，Boundary Attack所使用的方向，但是从几何角度讲，如果在决策边界的对抗样本周围构造一个虚拟的半球体，就可以通过几何手段直接找到最优更新点：最优切点！利用这种方式就可以构造最优的对抗样本搜索方向，从而利用几何方法进一步优化硬标签攻击的对抗样本失真度和查询复杂度。

该论文在ImageNet和CIFAR-10数据集上做了广泛的实验，验证了其有效性，其成果已发表在NeurIPS 2021大会上。

Talk大纲如下：

1. 黑盒对抗攻击简介；

2. 基于决策的黑盒对抗攻击的研究现状；

3. Tangent Attack攻击方法介绍；

4. 总结

Talk·预习资料

▼

  • https://arxiv.org/abs/2111.07492

  • https://github.com/machanic/TangentAttack

Talk·提问交流

▼

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

Talk·嘉宾介绍

▼

马晨

清华大学软件工程专业博士

马晨，清华大学软件工程专业博士。主要研究方向为深度神经网络的黑盒对抗攻击（对抗样本）与防御，专注于研究如何构造针对深度神经网络的黑盒攻击，如何检测并防御新型对抗攻击，最终致力于构建更鲁棒、更安全的深度学习系统。其研究成果发表在CVPR、NeurIPS、ACM MM、Neurocomputing等国际顶级会议和期刊上。马晨博士早年著有《LDA漫游指南》一书，详细讲解了LDA主题模型的方方面面，指引了很多人入门主题模型。

个人主页：

https://github.com/machanic

-The End-

关于TechBeat人工智能社区

▼

TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>TechBeat，一个荟聚全球华人AI精英的学习成长社区

TechBeat人工智能社区
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
繁凡的对抗攻击论文精读（一）CVPR 2019 基于决策的高效人脸识别黑盒对抗攻击（清华朱军）
繁凡さん的博客
12-24 1972
《繁凡的论文精读》（一）CVPR 2019 基于决策的高效人脸识别黑盒对抗攻击（清华朱军） Efficient Decision-based Black-box Adversarial Attacks on Face Recognition
机器学习的挑战：黑盒模型正面临这3个问题
大数据
12-22 3283
导读：本文将讲述可解释机器学习的研究背景，介绍黑盒模型存在的问题和风险，通过一些小故事让读者了解问题的严重性。作者：索信达控股 邵平 杨健颖 苏思达 何悦 苏钰来源：大数据DT（ID：hz...
LOWKEY: LEVERAGING ADVERSARIAL ATTACKS TO PROTECT SOCIAL MEDIA USERS FROM FACIAL RECOGNITION
weixin_45184581的博客
08-29 787
可以绕过人脸识别系统的对抗扰动已经被提出了，然而，现有的（对抗）方法在全面系统和商业api上失败了。我们开发了我们自己的对抗性滤波器，它包括整个图像处理流程，并且对包括人脸检测和大规模数据库在内的工业级流程非常有效。此外，我们发布了一个易于使用的网络工具，显著降低了Amazon Rekognition和Microsoft Azure人脸识别API的准确性，将它们的准确性降低到1%以下。......
Geometrically Adaptive Dictionary Attack on Face Recognition
weixin_45184581的博客
10-27 586
基于cnn的人脸识别模型虽然有了显著的性能提高，但容易受到对抗性扰动的影响。最近的研究表明，对手可以欺骗模型，即使他们只能访问模型的硬标签输出。然而，由于需要许多查询来查找难以察觉的对抗噪声，因此减少查询的数量对于这些攻击是至关重要的。在本文中，我们指出了现有的基于决策的黑箱攻击的两个局限性。我们观察到它们浪费了对背景噪声优化的查询，而且它们没有利用为其他图像生成的对抗性扰动。我们利用3D人脸对齐来克服这些限制，并提出了一种针对人脸识别的查询高效黑箱攻击的通用策略，称为几何自适应字典攻击(GADA)。
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition
weixin_45184581的博客
11-17 1441
近年来，由于深度卷积神经网络（CNN）的巨大改进，人脸识别取得了显着进展。然而，深度 CNN 容易受到对抗性示例的影响，这可能会在具有安全敏感目的的现实世界人脸识别应用程序中造成致命的后果。对抗性攻击被广泛研究，因为它们可以在部署之前识别模型的漏洞。在本文中，我们评估了最先进的人脸识别模型在基于决策的黑盒攻击设置中的鲁棒性，其中攻击者无法访问模型参数和梯度，而只能获取硬标签通过向目标模型发送查询来进行预测。这种攻击设置在现实世界的人脸识别系统中更实用。
对抗攻击与防御入门
m0_57512841的博客
07-27 5379
对抗样本---深度学习
Adv-Makeup:一种新颖不易察觉且可迁移的人脸识别攻击方法
欢迎来到道的世界
05-13 1231
1 摘要  现有的人脸识别系统的对抗样本缺乏针对黑盒模型攻击的可移植性，无法在实践中高效的攻击成功。该论文提出了一种统一的对抗人脸识别系统的方法——Adv-Makeup，该方法能够在黑盒环境下实现可感知和可转移的攻击,该方法使用混合模块在面部眼眶区域合成不易察觉的眼影。为了实现可移植性，Adv-Make实现了一种细粒度的元学习对抗攻击策略，以从各种模型中学习更多的一般攻击特征。与现有技术相比，Adv-Make能够在数字和物理场景下产生更多不易察觉的攻击，甚至可以攻击商业系统。 2 贡献  该论文的贡献可以总
面向可解释AI的黑盒和白盒模型
deephub
06-24 4787
使用模型属性、本地逻辑表示和全局逻辑表示从黑盒模型生成解释 快速回顾：XAI 和 NSC 可解释人工智能 (XAI) 致力于开发对人类（包括用户、开发人员、政策制定者和审计人员）来说本质上更容易理解的人工智能模型。 神经符号计算 (NSC) 处理将子符号学习算法与符号推理方法相结合。 因此，我们可以断言神经符号计算是可解释人工智能下的一个子领域。 NSC 也是最适用的方法之一，因为它依赖于结合现有的方法和模型。 如果可解释性是指用人类语言有意义地描述事物的能力。那么它可以认为，它是将原始信息(数据)映射到
Nature长文：打破AI黑盒的“持久战”
人工智能学家
04-14 171
来源：大数据文摘2020年2月，随着 COVID-19在全球迅速传播且抗原检测难以获得，一些医生转向人工智能(AI)来尝试诊断病例。一些研究人员采用深度神经网络通过查看X射线和胸部计算机断层扫描(CT)扫描来快速区分患有COVID-19肺炎的人和未患肺炎的人。“在COVID-19大流行的早期，人们竞相构建工具，尤其是AI工具来提供帮助”，西雅图华盛顿大学的计算机工程师Al...
OpenCV教程：cv2图像逻辑运算
我的Python教程
07-15 506
以下是使用cv2.bitwise_and(), cv2.bitwise_or(), cv2.bitwise_xor(), 和 cv2.bitwise_not()函数的示例。1.cv2.bitwise_and()：此函数执行两个图像的按位AND运算，结果只保留两个输入图像中都存在的像素信息。3.cv2.bitwise_xor()：此函数执行两个图像的按位XOR运算，结果保留两个输入图像中互斥的像素信息。-------------OpenCV教程集合-------------
计算机视觉7 kag比赛
bluewelkin的专栏
07-18 394
在实践过程中，你可以参考其他参赛者的代码和思路，学习优秀的解决方案。同时，不断尝试新的方法和技巧，以提高自己模型的性能。
[深度学习]基于yolov10+streamlit目标检测演示系统设计
FL1623863129的博客
07-15 890
（深度学习/计算机视觉/目标检测），毕设&课题｜毫米波雷达信号处理（目标检测、时频分析、分类与识别），mmyolo从环境部署到训练自己的数据集，手把手带你玩转YOLO系列开源工具箱—MMyolo！
＜数据集＞木材缺陷检测数据集＜目标检测＞
最新发布
qq_53332949的博客
07-18 318
YOLO与VOC格式的木材缺陷检测数据集，适用于YOLO系列、Faster Rcnn、SSD等模型训练，类别：Quartzity、Live_Knot、Marrow、resin、Dead_Knot、knot_with_crack、Knot_missing、Crack
＜数据集＞光伏板缺陷检测数据集＜目标检测＞
qq_53332949的博客
07-14 437
YOLO与VOC格式的光伏板缺陷检测数据集，适用于YOLO系列、Faster Rcnn、SSD等模型训练，类别：Crack、Grid、Spot
AI 模型 - 服务部署 （FastDeploy 及其 VisualDL（可视化部署））-- 吸烟检测（目标检测）
清汉_CSDN
07-17 756
将ppdet和runtime目录下的ppyoloe配置文件重命名成标准的config名字。版本的 FastDeploy 且也没有 GPU ，所以有关 GPU 的配置一概不选。这里根据自己机器的实际情况配置，由于本文使用的。
目标检测--X-anylabeling使用自己的模型自动标注
luralying的博客
07-15 382
x-anylabeling安装教程——
计算机视觉8 图像增广
bluewelkin的专栏
07-18 275
例如，通过不同方式裁剪图像，使感兴趣的物体出现在不同位置，可以减轻模型对物体出现位置的依赖性；调整亮度、色彩等因素能降低模型对色彩的敏感度。图像增广（image augmentation）是通过对训练图像进行一系列随机改变，从而产生相似但又不同的训练样本的技术。在实践中，通常仅在训练样本上进行图像增广，而在预测过程中不使用随机操作的图像增广，以获得确切的结果。
＜数据集＞钢板缺陷检测数据集＜目标检测＞
qq_53332949的博客
07-15 522
YOLO与VOC格式的钢板缺陷检测数据集，适用于YOLO系列、Faster Rcnn、SSD等模型训练，类别：crescent gap、silk spot、water spot、weld line、oil spot、punching、waist folding
YOLOv1翻译（You Only Look Once: Unified, Real-Time Object Detection）
smilejfy的博客
07-12 682
我们发表了 YOLO，一种新的目标检测方法。先前关于目标检测的工作重新利用分类器来执行检测。取而代之的是，我们将目标检测构建成一个回归问题，该回归问题指向空间上分离的边界框和相关的类概率。单个神经网络可在一次评估中直接从完整图像预测边界框和类别概率。由于整个检测pipeline是单一网络，因此可以直接在检测性能上进行端到端的优化。我们的统一架构在执行上速度极快。我们的base YOLO 模型以45 帧/秒的速度实时处理图像。
from abc import ABC, abstractmethodclass Animal(ABC): @abstractmethod def talk(self): passclass Cat(Animal): def talk(self): return "Meow!"class Dog(Animal): def talk(self): return "Woof!"# This will raise an error as it is attempting to create an instance of an abstract class# animal = Animal()cat = Cat()print(cat.talk()) # Output: Meow!dog = Dog()print(dog.talk()) # Output: Woof!请为以上代码每条语句添加注释
04-22
这是一个 Python 的代码片段。它定义了一个抽象基类 Animal，其中有一个抽象方法 talk。类 Cat 和类 Dog 都继承了 Animal，并且实现了 talk 方法。Cat 实现了它自己的 talk 方法，返回字符串 "Meow!"；而 Dog 也实现了自己的 talk 方法，返回字符串 "Woof!"。这些类被用于表示不同种类的动物，它们可以被用于编写更为复杂的程序。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值