![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
对抗样本
文章平均质量分 83
克莱恩~莫雷蒂
学习过程中的一点笔记,不能保证完全正确,希望大佬们在发现错误的时候帮忙指正,感谢
展开
-
MathAttack: Attacking Large Language Models Towards Math Solving Ability
与传统的文本攻击相比,数学应用题攻击需要保留文本样本x的数学逻辑L语义要接近!!原创 2024-06-06 22:32:48 · 493 阅读 · 0 评论 -
deepfool攻击原理和提出必要性
目的一:对抗训练很重要,作者发现,如果采用FGSM这种,L-BFGS这些生成对抗样本的方法可能会导致对抗训练效果变更差。为什么呢?因为作者发现用来对抗训练的对抗样本扰动越大那么可能 让对抗样本训练把原本的神经网络变更差下图中这个是神经网络的鲁棒性衡量用下图公式下图是使用不同扰动大小的对抗样本来训练神经网络,发现扰动越大的对抗样本 训练的效果越差l下图中更是说明,用FGSM去对抗训练,发现结果还没有用clean样本去训练的效果好,说明FGSM生成的样本来对抗训练 不行。原创 2024-05-26 19:18:31 · 389 阅读 · 0 评论