慢慢来,会更好!
大家好,我是一个想研究又不会研究的研究生
陪伴大家一起学习成长!
上一章我们学习的是white Box,这一章我们继续学习black box
white box:知道模型参数的attack
我们如果用力保护好我们的模型不被他人得知,那么它真的安全吗?
不一定的,还有black box
black box attack:不知道model参数是什么
我们可以通过同一组训练集来训练一个network proxy,来模拟network black
从而通过攻击network proxy观察,就可以来攻击network black
但是我们如果完全没有训练资料怎么办呢?
可以把一堆图片丢到NN中,得到输出的图片,把输入和输出图片丢到network proxy来训练出一个模型
下面是实验结果,可以看出black box attack还是可以的