云边端全场景下深度学习模型对抗攻击和防御

摘 要 在万物互联的智能时代，以深度学习为代表的人工智能技术正全方位改变人类的生产和生活方式.与此同时，云边端计算架构的成熟和发展使得边缘计算正在日益走向智能时代的舞台中央，轻量化模型在计算资源受限的嵌入式和物联网设备大规模部署和运行.然而，随着人工智能技术蓬勃发展，其算法的鲁棒脆弱性及易受对抗攻击等特点也给人工智能系统的广泛应用带来了极大的安全隐患.针对此问题，国内外学术界和工业界已经开展了人工智能安全的相关研究，其中针对深度学习的对抗攻御研究已成为了当前的研究热点.因此，聚焦于云边端全场景下的人工智能技术安全问题，分别整理归纳了针对大型神经网络和轻量化神经网络的对抗攻防技术，对相关理论与研究方法进行了系统性的综述研究.首先，介绍了多种主流的对抗攻击生成方法.其次，从鲁棒先验视角出发，将现有对抗防御工作分为基于对抗训练的防御、基于正则化的对抗防御以及基于模型结构的对抗防御三大类.同时，对现有的研究工作进行了系统总结和科学归纳，分析了当前研究的优势和不足.最后，探讨了在云边端全场景下深度学习模型对抗攻击和防御研究当前所面临的挑战以及未来潜在的研究方向.

关键词 人工智能安全；对抗攻击；对抗防御；深度神经网络；轻量化网络

近些年，得益于数据数量和质量的提升、高性能硬件所带来的计算能力增长以及算法上的不断突破，以深度学习为代表的人工智能技术得到了前所未有的发展和应用[1].从指纹解锁、刷脸支付，到语音助手、产品推荐，再到智慧制造、无人驾驶，深度学习正全方位改变着人类的生产和生活方式[2].同时，模型轻量化技术的成熟也可将原本依赖于高性能图形处理器(graphic processing unit, GPU)的大型神经网络进行轻量化处理，让其在计算资源有限的嵌入式设备和物联网