主动防御多种Deepfake模型，北大王选所在AAAI22上提出跨模型通用对抗水印CMUA-Watermark...

关注公众号，发现CV技术之美

本文分享AAAI 2022论文『CMUA-Watermark: A Cross-Model Universal Adversarial Watermark for Combating Deepfakes』，由北大王选所提出跨模型通用对抗水印 CMUA-Watermark，主动防御多种 Deepfake模型。

详细信息如下：

• 论文链接：https://arxiv.org/abs/2105.10872

• 项目链接：https://github.com/VDIGPKU/CMUA-Watermark

      01      

前言

相信大家都看过换脸视频（Deepfake Video）吧？Deepfake指的是利用对抗生成网络或其他内容生成技术生成虚假但看起来十分逼真的图像或视频，只要输入一个人的图片或视频，就可以在生成的图片或视频中使这个人做出其未做过的事情或者未说过的话，而这些人脸看上去十分真实，甚至能骗过人脸识别系统。

至今为止，Deepfake的滥用不仅让诸多虚假新闻得以传播，同时，含有虚假政治、色情信息的视频和图片也对人们的生活造成了巨大的伤害，随着生成技术的不断发展，由Deepfake引起的身份盗用、诈骗勒索等安全问题也日益显著。

图1 Deepfake换脸样例[1]

在这样的背景下，研究人员开始研究怎么防止Deepfake被恶意利用。目前，主流的方法采用被动防御，其会训练一个检测器，检测哪些内容是Deepfake生成的，哪些内容是真实的。不幸的是，这种方法只能被动防御和事后取证，并不能阻止Deepfake图片、视频的生成和传播，也没有办法避免虚假内容造成的伤害。

最近，有学者提出一种主动防御的方式，是基于对抗攻击（adversarial attack）的思想，给照片加上一个对抗性的水印，以扭曲Deepfake生成的内容，达到“看一眼就知道是假的”的效果，该类方法可以干扰Deepfake的生成过程，进而在生成阶段遏制住Deepfake的威胁。这种对抗性水印往往是人眼无法分辨的微小扰动，但它可以针对Deepfake网络，扭曲其输出（即扭曲生成的虚假内容）。但是目前的方法往往只能针对一张特定的照片、一种特定的Deepfake模型。也就是说，如果换了一张照片，或者换了一个Deepfake模型，这个水印的保护性能就可能大打折扣。