了解最新的T恤图案背后的最新研究,该模型欺骗了先进的人体检测系统
作者|Param Raval 编译|Flin 来源|towardsdatascience
一个穿着特定类型的T恤的人如何使人身检测和人类监视系统看不见他?好吧,研究人员已经发现并利用了深度神经网络的致命弱点——一些最好的物体检测器(YOLOv2,Faster R-CNN,HRNetv2等)背后的框架。
较早的方法
在[1]中,作者设法在实际使用案例中获得了57%的基准欺骗准确性。但是,这并不是第一次尝试欺骗对象检测器。在[2]中,作者为他们的模型设计了一种方法来学习并生成可能欺骗检测器的补丁。将该贴片戴在硬纸板片(或任何平坦表面)上时,在准确度为18%的情况下,成功地避开了人体检测仪。
从[2]开始。左:成功检测到没有补丁的人。正确:拿着补丁的人将被忽略。
像这样“混淆”或“欺骗”神经网络称为进行物理对抗攻击或真实世界对抗攻击。这些攻击最初是基于复杂变化的像素值,它们使网络(基于其训练数据)把该对象标记为“未知”,或者只是忽略了它。
[2]中的作者将训练数据中的图像进行转换,应用初始补丁,然后将所得图像输入检测器。获得的目标损失用来改变在补丁中的像素值,从而使目标得分最小化。