PhysGAN: Generating Physical-World-Resilient Adversarial Examples for Autonomous Driving

最新推荐文章于 2024-07-13 14:08:16 发布

爽儿歪歪歪

最新推荐文章于 2024-07-13 14:08:16 发布

阅读量436

点赞数

分类专栏： Adversarial Attack 文章标签：对抗攻击自动驾驶深度学习

本文链接：https://blog.csdn.net/sinat_36059653/article/details/115937998

版权

本文收录于CVPR 2020

本文针对在现实场景中针对自动驾驶系统产生对抗性路标或广告牌导致自动驾驶系统故障。

本文将对抗攻击分为digital-attack和physical-attack

digital-attack:仅在像素级别上添加扰动。这种方式扰动能力强，但生成的对抗样本迁移到现实世界中其对抗性可能会无效。对于自动驾驶系统，这种方法将扰动添加到整个图片，包括背景信息（例如天空），这在现实中是无法实现的。
physical-attack：生成的扰动样本可以打印出来，且打印出的样本依旧具有对抗性。

RP2：在路标上直接粘贴黑白胶带，扰动太大，人眼易察觉
physFGSM：既属于digital-attack也属于physical-attack，将扰动只添加在路标上，这会导致其在digital attack上的攻击能力下降，但在physical attack上的攻击能力增强

之前的扰动只考虑静态情况，即只将扰动添加在一张包含路标的静态图中，没有考虑实际场景中的动态性，即车是驶向路标的。所以本文作者提出了一种适用于实际动态场景下的物理对抗攻击方式physGAN。

在这里插入图片描述

与以往输入的是单张图片不同的是，本方法的输入是包含多帧图像的动态视频片段，每个片段的第一帧中应包含完整的路标或广告标志，且其大小要超过400像素，直到最后一帧路标或广告标志才可以有部分缺失。

$\chi$ = {X_i} sucn that $\chi$

关注