本文探讨了神经网络在实际应用中不仅需要高正确率，还必须能抵御人类的恶意攻击。介绍了两种攻击类型：非目标攻击和目标攻击，并讨论了计算输入差异的L2-norm和L-infinity方法，实践中更倾向于使用L-infinity。训练过程中，通过调整输入以最小化损失函数，同时确保输入变化在一定范围内。文章还提到了一种简单的攻击方法，并展示了如何防止超出限制的情况。
慢慢来，会更好！
大家好，我是一个想研究又不会研究的研究生
陪伴大家一起学习成长！
我们之前已经训练了很多类神经网络
把类神经网络应用到现实世界中，正确率高够用吗？
其实不然，类神经网络还需要应对人类恶意的攻击
所以，我们希望我们的类神经网络不仅要正确率高，还要应对来自人类恶意的攻击
接下来，我们看一个attack的例子。
在这里，我们给图片加了一点杂讯放入Network Classifier中
让它输出其他东西
attack分为2种：1.Non-targeted 2.Targeted
为了让我们能够看到这两张照片的差异，我们经过处理后放大50x
128
180
458
231
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
最低0.47元/天 解锁文章
