![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
视觉对抗
文章平均质量分 69
想为祖国献石油
这个作者很懒,什么都没留下…
展开
-
通过多教师对抗蒸馏提高准确性和稳健性
以往的对抗性蒸馏方法仅带来了经过对抗性训练训练的单一模型,其鲁棒性较强,但对于干净图像的识别能力较弱。作为唯一的指导,学生模型通常符合教师模型的分布,导致识别干净示例的能力较低。因此,我们还引入了一个预先训练的干净教师模型来指导对抗性蒸馏的过程。人们提出了许多通过知识蒸馏将大模型的鲁棒性转移到小模型的方法。虽然这些方法可以提高小模型的鲁棒性,但对抗性训练本身会损害模型识别干净样本的能力。因此,本文要解决的核心问题是如何提高对抗训练中的干净精度和鲁棒精度,然后提出了我们的多教师对抗鲁棒性蒸馏。原创 2024-07-10 16:14:20 · 253 阅读 · 0 评论 -
蒸馏作为对抗深度神经网络对抗性扰动的防御
精心设计的输入是为了迫使深度神经网络(DNN)提供对手选择的输出。此类攻击可能会严重破坏 DNN 支持的系统的安全性,有时会带来毁灭性的后果。例如,自动驾驶车辆可能会崩溃,非法或非法内容可能会绕过内容过滤器,或者生物识别系统可能会被操纵以允许不当访问。在这项工作中,我们引入了一种称为防御蒸馏的防御机制,以降低 DNN 上对抗性样本的有效性。我们分析研究了在训练 DNN 时使用防御蒸馏所赋予的通用性和稳健性。我们还实证研究了我们的防御机制在对抗环境中的两个 DNN 上的有效性。原创 2024-07-09 23:15:37 · 431 阅读 · 0 评论 -
(论文阅读)检测和防御:学生-教师网络的对抗健壮性
传统的防御方法不能区分对抗性例子(AE)和正常例子(NE)。因此,它们对两个示例应用相同的防御过程来执行分类,导致网元的性能下降。在本文中,我们提出了一种新的基于学生-教师框架的防御方法,该方法可以通过检测网络环境并将防御过程仅应用于网络环境来最小化网络环境的分类性能降级。针对教师网络(目标DNN)隐含层特征失真是敌意攻击成功的必然性这一事实,训练学生网络预测教师网络未失真的隐含层特征。原创 2024-07-09 16:28:03 · 847 阅读 · 0 评论 -
基于剪枝技术和鲁棒蒸馏融合的轻量对抗攻击防御方法
传统剪枝策略一般分为两类:预定义剪枝策略、基于全局阈值的剪枝策略。首先,预定义剪枝策略通常依赖于人工设定的剪枝率,但往往达不到最优的剪枝效果。其次,基于全局阈值的剪枝策略在使用中具有一定的局限性,如该方法会造成层崩塌,即该层的卷积核几乎被剪完,从而使模型性能骤降。针对以上问题,本文提出一种分层自适应的剪枝策略,其创新点在于依据模型各层输出的软标签信息与模型最终的软标签输出进行比较,进而指导各层剪枝率的分配(如图 1 所示),使网络结构能够适应鲁棒性的需要。原创 2024-07-08 16:44:50 · 299 阅读 · 0 评论 -
深度学习对抗防御
当前对于对抗样本的防御,主要从3个方向进行研究:(1)数据预处理,如在DNN模型学习过程中调整训练过程或者修改输入的训练样本;(2)修改网络模型,如添加更多层或子网络、改变损失或激活函数等,从而增强DNN模型的鲁棒性;(3)附加网络,如使用外部模型作为附加网络,来检测分类器未见过的对抗样本。原创 2024-07-08 10:39:53 · 257 阅读 · 0 评论