本篇博文主要就是介绍Adversarial Attack。
文章目录
Motivation
example of attack
在照片的矩阵上加上杂讯(attacked image)
两张照片是有差别的
How to attack
计算图片的距离有很多种方法
其中
d
(
x
0
,
x
)
d(x^0,x)
d(x0,x)need to consider human perception.
attack approach
white box v.s. black box
黑箱攻击在non-targeted时更容易成功
部分人认为,data是造成adversarial attack的元凶。
其他类型的数据也可能会被attack
attack in the physical world
车牌辨识系统:
adversarial reprogramming
“backdoor” in model
有可能在训练资料中就加入了attack
Defense
passive defense
稍微模糊化,即可defense,attack成功的讯号是比较特殊的,可能是某个方向上的某种。
但是模糊化比较严重的的时候,也可能会产生某种side effect
另一种defense的方法是randomization