2022年ISC第十届互联网安全大会——深度伪造对抗技术进展与挑战学习笔记

深度伪造现状与趋势

概念和内涵

基本概念：

多模态智能生成： 运用深度伪造、文本迁移等人工智能核心技术，实现认知对抗中内容制品快速生成和制作

多模态内容理解： 对多模态信息进行分析挖掘、态势感知、画像刻画、认知对抗、复盘推演等

主要内涵：

目标画像、态势感知、推理预测、跨域迁移

发展趋势

深度伪造技术起步较早，从单模态向多模态生成发展，商业应用较为成熟。而现代也在军事、政治等实战中用广泛的应用

深度伪造的典型案例

深度伪造在认知对抗中的定位

第一步：态势感知

实时采集目标、热点舆论的多方面数据并进行综合分析

第二步：目标优选

对个体或群体目标进行画像，提供相应目标的优选建议

第三步：内容制作

以多媒体信息为平台，制作以假乱真的信息制品

第四步：信息投放

人工或者利用机器人在社交网络上投放信息制品

第五步：效果评估

不断分析攻击效果，进行优化和改进

第六步：循环

重新回到第一步完成一个循环

态势感知与深度伪造的关系：相辅相成

深伪对抗的关键技术

深伪对抗技术体系

文本仿写技术

根据场景、内容、情感、风格等需求，利用相似推荐、用词润色、语义改写、摘要聚合、风格迁移等方法，实现文案自动生成，并进行智能纠错

语音合成技术

主要分为语音合成和模拟仿声。语音合成主要是将文本信息转化为语音信息，仿声技术主要将源语音信息转化成目标音色

视频伪造技术

利用图像驱动表情，图像驱动动作，语音驱动口型，博弈对抗学，计算机声学，计算机视觉，认知科学等方面技术，实现实时或者离线视频伪造的目的

深度伪造对抗技术

（1）多媒体数字水印

（2）主动式防御

深伪对抗的发展思考

（1）技术方面： 攻防兼备，合理利用“矛”和“盾”的对抗关系

（2）应用方面

我是一点也不老的康康，全网同名
喜欢的话记得点赞关注蛤~