对抗攻防
文章平均质量分 91
Lovewxy_不再回忆
2017.9~2020.6 北京大学硕士
2020.7~2022.4 腾讯优图算法研究员
2022.5~至今 字节跳动搜索算法工程师
展开
-
Paper笔记: 《Towards Deep Learning Models Resistant to Adversarial Attacks》
论文:https://arxiv.org/pdf/1706.06083代码:https://github.com/DengpanFu/RobustAdversarialNetworkMotivation 这篇文章聚焦神经网络的对抗鲁棒性这个话题,通过研究网络的鲁棒性优化问题来为网络的安全性提供保障。随着AI不断被引入日常应用场景中,安全性已经成为至关重要的问题。针对攻击样本,此前的研究提出对抗训练的方法,但是泛化性非常有限,几乎只能抵御已知的攻击。而本文从鲁棒性的角度出发,研究如何让模型具备足够的安原创 2021-03-10 22:50:30 · 1048 阅读 · 0 评论 -
Paper笔记: 《Towards Evaluating the Robustness of Neural Networks》(CW攻击)
论文: https://arxiv.org/pdf/1608.04644.pdf?source=post_page代码:https://github.com/Harry24k/CW-pytorchMotivation 又是一篇对抗攻击领域的基石之作,论文的思路主要针对当时最强的防御方法——防御性蒸馏。在当时,几乎所有的攻击方法都无法攻破防御性蒸馏,而本文的方法在面对防御性蒸馏时,取得了几乎100%的攻击成功率,这也再一次推动了对抗攻防算法的演进。Contribution 作者提出了一种新的攻击原创 2021-03-04 23:21:09 · 831 阅读 · 1 评论 -
Paper笔记: 《EXPLAINING AND HARNESSING ADVERSARIAL EXAMPLES》
论文: https://arxiv.org/pdf/1412.6572.pdf代码: https://github.com/1Konny/FGSMSummary 对抗攻击领域的开山之作之一,这篇论文最令人熟知的是其提出了经典的Fast Gradient Sign Method(简称FGSM)攻击方法,大大提高了攻击样本生成的效率。但事实上,这篇论文关注的核心问题是:为什么攻击样本会存在?作者提出“神经网络的线性属性才是攻击样本存在的原因”。从行文思路上来说,这篇论文不同于一般论文的motivaion原创 2021-02-22 00:06:22 · 283 阅读 · 1 评论 -
Paper笔记: 《LaVAN: Localized and Visible Adversarial Noise》
论文: http://proceedings.mlr.press/v80/karmon18a/karmon18a.pdf(该论文代码未开源)Motivation 这篇paper聚焦于基于patch的对抗攻击,过去的对抗攻击主要是基于LpL_{p}Lp约束,即将噪声添加在整幅图像上,同时限制噪声的大小满足∣δ∣< Lp|\delta| <\,L_{p}∣δ∣<Lp,从而保证噪声难以被人眼所察觉。但是由于施加在整图的噪声难以进行打印,同时噪声量较小很容易受到环境影响,因此LpL_{原创 2021-02-18 22:57:16 · 728 阅读 · 0 评论 -
Paper笔记: 《Adversarial Color Enhancement》
论文: https://arxiv.org/pdf/2002.01008.pdf链接: https://github.com/ZhengyuZhao/ACE选自BMVC2020的一篇paper,全名为《dversarial Color Enhancement: Generating Unrestricted Adversarial Images by Optimizing a Color Filter》Motiation 又是一篇着眼于颜色变换的无限制攻击paper,由于传统的LpL_{p}Lp原创 2021-02-11 20:28:37 · 404 阅读 · 0 评论 -
Paper笔记: 《ColorFool: Semantic Adversarial Colorization》
Paper笔记: 《ColorFool: Semantic Adversarial Colorization》论文: https://openaccess.thecvf.com/content_CVPR_2020/papers/Shamsabadi_ColorFool_Semantic_Adversarial_Colorization_CVPR_2020_paper.pdf.代码: https://github.com/smartcameras/ColorFool.Motivation 本文关注无原创 2021-02-03 23:29:08 · 618 阅读 · 1 评论