为了对抗 Deepfake，中科院张欣怡果断免费开源 DeepFakeDefenders

黑暗中的一束光：为了对抗 Deepfake，中科院张欣怡果断免费开源

原创 海野 夕小瑶科技说

近日，一起针对女性的网络犯罪刷爆全网 ——

“施暴者” 利用一门名为 deepfake（深度伪造）的 AI 换脸技术，将不雅视频的 “女主角” 的脸，换成身边女性的脸并大肆进行宣传。

受害女性们受到了莫须有的网络暴力，颜面扫地、名誉全无。

被偷走的，不仅是受害者的脸，还有身份、名誉、隐私、尊重。近乎无解。

直到今天，一位勇敢的小姐姐站了出来：张欣怡。

张欣怡，作为一名算法研究工程师，她一直在 deepfake 检测工作深耕。近期参加了外滩大会的全球 Deepfake 攻防挑战赛。

而同样作为一名女性，deepfake 事件对女性带来的伤害，让她无比的震惊与愤怒。

我们会将参赛使用的 AI 模型向全球免费开源，让所有有需要的人都可以对抗 deepfake。希望通过技术手段，为每一个可能受到伤害的人提供保护。

在如此艰难的战斗中，张欣怡率先站了出来，利用自己的毕生所学，在技术层面，果断举起火把，为受害者女性点燃出一片光明。

##回顾一下 deepfake 事件

简单描述一下现在的 deepfake 技术，那就是：

只需要一张照片，就可以实现超逼真 AI 换脸。

这项技术最早可以追溯到两年前，有人在 YouTube 上上传过 deepfake 技术的教程：

而随着时间推移，deepfake 的真实度也越来越高。

现在，只需要不到 10 美元，就能在几分钟时间内制作出大量伪造视频。

每项技术的发展，我们都期待它在友好的领域发光发热。比如在 deepfake 技术加持下，抖音上的 AI 整蛊特效：

但我们不得不承认，它的滥用在犯罪领域得到了更好地发挥。

利用 deepfake 技术，施暴者针对女性制作了大量淫秽视频，这起事件在韩国最为猖獗，在全球各国也均有发生。

更甚，施暴者收集了合成后的 AI 视频，以及家庭住址等个人隐私信息，进一步针对受害者，展开财物上的敲诈。

而令人胆寒的是，这件事情的爆发，居然是来源于韩国的一所学校：

据韩联社报道，从 2021 年 7 月至 2024 年 4 月，首尔大学毕业生朴某和姜某，涉嫌利用 deepfake 技术换脸合成色情照片和视频，并在 Telegram 上私密传播，受害女性多达 61 人，包括 12 名首尔大学学生。

这次事件，最大的受害者，是学校里的学生和老师。

最大的加害者，居然也是学生！

这只是 deepfake 犯罪的冰山一角，韩国女性人权振兴院今年发布的《2023 数字性犯罪受害者支援报告》显示，去年有 8983 名数字性犯罪受害者寻求帮助。

斯坦福大学互联网观察站也发现，在大型 AI 数据库 LAION 中，至少有数千张疑似儿童性虐待的图像。

而韩国政府的无作为，韩国社会的沉默不语，更加大了作案人员的嚣张气焰。迄今，韩国已有至少 200 所学校的学生成为 deepfake 事件的受害者。

有网友制作了一张受害者所在学校的地图，其中密密麻麻的红标触目惊心：

甚至，deepfake 的受害者不得不跑到推特和微博上，寻求其他国家的帮助：

这件事情，很难不让人联想到 2017 年的美国 #MeToo 运动，以及 2020 年的韩国的 N 号房事件。

前者是美国女明星们对性骚扰丑闻的抗争，后者是对胁迫韩国女性（甚至是未成年）拍摄淫秽视频事件的揭露。

N 号房事件，至少有 26 万名会员参与，也就是说，在韩国，每 50 名男性就有 1 人围观过 N 号房。

这次的 deepfake 事件，也有至少 22.7 万人参与过。要知道，韩国在 2023 年的出生人口数也只有 23 万。

这让我们不得不反思：女性和未成年人遭遇的侵犯与不公，就算在后工业文明时代的发达国家依旧顽固地活跃着。

虽然我们不能改变深植在部分人心里对女性的蔑视和 “羞辱”，那我们至少要有坚强的力量，维护好属于女性的合法权益。

“既然有人用技术造假，那么我们也要用技术去阻止他们得逞。” 张欣怡如是说。

于是，为了帮助更多女性脱离 deepfake 苦海，张欣怡团队毅然决然地 “girls help girls”，将他们的研究成果免费开源使用。

张欣怡团队开源的模型名为：DeepFakeDefenders。在全球 Deepfake 攻防挑战赛上，成功取得三等奖。

开源地址：https://github.com/VisionRush/DeepFakeDefenders

这是一个非常强大的图像鉴别模型，它通过模拟人类的视觉能力，在整体和局部上分别对色彩和纹理进行识别，从而鉴别图片是否由 deepfake 伪造。

而鉴于模型的使用难度，张欣怡团队正在开发更方便、更快捷的软件，降低使用门槛。

##小结

张欣怡及其团队的研究和举措，如枯木逢春般，给当下深受 deepfake 迫害的女性群体，带来了一株名为希望的花。

怎样才能避免陷入 “我” 不是我的自证循环？怎样才能分清虚拟与现实？张欣怡帮我们打出了第一枪。技术应该是造福人类、造福社会，而不是增加有色眼镜、酿成尔虞我诈的悲剧。

但想杜绝如同 deepfake 类似的问题出现，也许依旧需要法律层面的追责，还需要个人道德规范的支撑。

不过至少，女性群体在受到侵害时，能拥有相应的 “武器” 帮助。消除不公，走向和平，也正是技术不断发展的目的。

就像张欣怡说的那样：

“这个世界有黑暗，也有照亮黑暗的光。如果一个人的火把太小，我们就把火把传给世界的每一个人。”

众人拾柴火焰高。愿世界女性都能为了更美好的未来，一起加油。

也希望在技术越来越强大的未来，能还予社会以信任，还予女性以尊重。

---

via:

• 黑暗中的一束光：为了对抗 Deepfake，中科院张欣怡果断免费开源 2024 年 09 月 04 日 17:01 四川 标题已修改

  https://mp.weixin.qq.com/s/BqRZkvIowioQPlOmznJBdg