可信AI会议记录
物理世界下的智能对抗攻防
来源
背景
近年来人工智能产业的快速发展带来了不小的安全隐患。
挑战:对抗样本攻击
数字世界攻击与物理世界攻击
物理对抗研究问题
主要挑战
研究内容1:基于偏见的物理对抗方法
引用论文:Wang Jialai eta. Univrsal Adversaral Pac Atack for Automatic Checlot lsing eceptual and Atentional BiasJ REE-Transacions on image Processing 2),31.58-511."
研究内容2:基于注意力抑制的物理对抗攻击方法
引用论文:Wang Jiakaietal.Dual attention suppression attack: Generate adversarial camouflage in physical world[CI/CVPR 2021:8565-8574.
基于关键模式的对抗防御方法
引用论文:Wang Jiakai, etal.Defensive Patches for Robust Recognition in the Physical World.CVPR 2022
物理世界防御测试-》定性与定量分析:
基于语音快速扰动的物理对抗攻击方法
引用论文:Wang Jiakai.etal.Protect Aduio Privacy via Fast Universal Adversarial Noises. Work in progress.
总结与展望