Adversarial Attack

目录

1.Example

2.How to Attack

3.Non-perceivable

4.Attack Approach

---

1.Example

 给Benigh Image加些非常小的杂讯，叫做攻击，目的是让Network输出其他东西

2.How to Attack

 目的是让输出与之间区别越大越好，取负号越小越好算Loss Function

 现在还希望y与越近越好，即不光cat的几率越低越好，fish的几率越高越好

 同时我们希望x与x0之间的差距小于等于一个阈值（人类分辨不出来）

3.Non-perceivable

 对人类而言，对L-infinity的感知力是最大的，让L-infinity小更好，当作限制。

4.Attack Approach

 

与过去的Gradient Descent不同的是，以前是修改参数，现在是修改Input。

 如果修改input后超过限制了，那就在范围内找一个最近的点修改。

Fast Gradient Sign Method(FGSM)

 sign的意思是如果括号里的值>0则为1，反之则为-1

令为，则每次的值必在限制内。

 如果经过几次iteration后，x出了范围内，则看L-infinity四边形哪个角落离x最近，就回到那个角。