CVPR 2021 | 对抗攻防新方向：动作识别算法容易被攻击！

智源导读：对抗样本是近年来非常热门的研究问题，但是大多数的研究往往针对于静态数据（图像、文本、几何），然而时序数据上的探索往往较少，本文主要是研究了一种特殊但十分重要的时序数据——骨架动作下的黑盒攻击。欢迎对对抗样本或者骨架运动识别感兴趣的读者对这个方向进一步探索。（本文系智源社区成员投稿）

原文链接：https://arxiv.org/abs/2103.05266

视频链接及附加材料：http://drhewang.com/pages/AAHAR.html

作者：Yunfeng Diao, Tianjia Shao, Yong-Liang Yang, Kun Zhou, He Wang

单位：利兹大学，西南交通大学，浙江大学，巴斯大学

01

引言

对抗样本通常是指对输入样本添加一些人为无法察觉到的扰动，导致模型以高置信度给出一个错误的输出，例如图例中原样本的标签为“熊猫”，经过添加扰动后，分类器分类为错误的标签“长臂猿”。目前对抗样本在静态数据上（图像、文本、几何）已经做了大量的研究，但是对于时序数据相关的研究较少。

骨架运动数据，作为一种特殊的时序数据，在人类行为活动识别中起着至关重要的作用，因此骨架行为识别的安全性问题最近开始也渐渐受到了大家的关注。但是当前的针对骨架行为识别的安全性研究主要有两个方面的问题还没有被解决：

1) 目前基于骨架行为识别的攻击方法和鲁棒性研究主要是在“白盒”设定下的，即模型参数可以完全被外界获