在数字时代,深度伪造已成为在线内容真实性的重大威胁。
这些复杂的人工智能生成的视频可以令人信服地模仿真人,使得区分事实与虚构变得越来越困难。
然而,随着深度伪造背后的技术不断进步,用于检测它们的工具和技术也在不断进步。
在这篇博客中,我们将探讨当今可用的五大深度伪造检测工具和技术。
1.Sentinel
Sentinel 是一个领先的基于 AI 的保护平台,可帮助民主政府、国防机构和企业阻止深度伪造的威胁。
欧洲领先的组织正在使用 Sentinel 的技术。
该系统的工作原理是允许用户通过他们的网站或 API 上传数字媒体,然后自动分析这些媒体是否为 AI 伪造。
系统会确定媒体是否为深度伪造,并提供操纵的可视化效果。
Sentinel 的深度伪造检测技术旨在保护数字媒体的完整性。
它使用先进的人工智能算法来分析上传的媒体并确定其是否被篡改。
该系统提供了其发现的详细报告,包括对媒体被篡改区域的可视化。
这使用户可以准确地看到媒体被篡改的位置和方式。
Sentinel 的主要特点:
-
基于人工智能的深度伪造检测
-
被欧洲领先的组织所采用
-
允许用户上传数字媒体进行分析
-
提供操作的可视化
访问 Sentinel →
https://thesentinel.ai/
2.英特尔的实时深度伪造检测器
英特尔推出了一款名为 FakeCatcher 的实时深度伪造检测仪。
该技术可以以 96% 的准确率检测出虚假视频,并在几毫秒内返回结果。
该检测仪由英特尔与纽约州立大学宾汉姆顿分校的 Umur Ciftci 合作设计。
使用英特尔硬件和软件,在服务器上运行并通过基于 Web 的平台进行交互。
FakeCatcher 在真实视频中寻找真实线索,评估人类的本质,视频像素中微妙的“血流”。
当我们的心脏泵血时,我们的静脉会改变颜色。
这些血流信号是从面部各处收集的,算法将这些信号转换成时空图。
然后,利用深度学习,它可以立即检测出视频是真是假。
英特尔实时 Deepfake 检测器的主要特点:
-
与纽约州立大学宾汉姆顿分校合作开发
-
检测虚假视频的准确率高达 96%
-
以毫秒为单位返回结果
-
利用视频像素中微妙的“血流”来检测深度伪造
访问英特尔 →
https://www.intel.com/content/www/us/en/newsroom/news/intel-introduces-real-time-deepfake-detector.html#gs.2i4bt3
3.WeVerify
WeVerify 是一个旨在开发智能人机交互内容验证和虚假信息分析方法和工具的项目。
该项目专注于在更广泛的在线生态系统中分析和情境化社交媒体和网络内容,以揭露虚假内容。
这是通过跨模式内容验证、社交网络分析、微目标揭穿以及基于区块链的已知虚假信息公共数据库来实现的。
WeVerify 的主要特点:
-
开发智能的人机交互内容验证和虚假信息分析方法和工具
-
分析并阐释社交媒体和网络内容
-
通过跨模态内容验证、社交网络分析和微目标揭穿虚假内容
-
使用基于区块链的已知假货公共数据库
访问 WeVerify →
https://weverify.eu/about-us/overview/#1560343088338-24c0bae8-7ae8
4. 微软视频验证工具
Microsoft 的视频验证工具是一款功能强大的工具,可以分析静态照片或视频,并提供置信度分数,以表明媒体是否被操纵。
它可以检测深度伪造的混合边界和人眼无法察觉的细微灰度元素。
它还可以实时提供此置信度分数,从而可以立即检测到深度伪造。
视频验证工具使用先进的人工智能算法来分析媒体并检测篡改迹象。
它会寻找媒体灰度元素中的细微变化,这些变化通常是深度伪造的迹象。
该工具提供实时置信度评分,让用户快速确定媒体是否真实。
Microsoft 视频验证器工具的主要功能:
-
分析静态照片或视频
-
提供实时置信度评分
-
检测细微的灰度变化
-
可以立即检测深度伪造
访问 Microsoft →
https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/
5.使用音视元素不匹配进行深度伪造检测
这项创新技术由斯坦福大学和加州大学的研究人员开发,利用了这样一个事实:表示嘴形动态的视素有时与口语音素不同或不一致。
这种不一致是深度伪造的常见缺陷,因为人工智能通常很难将嘴部运动与口语完美匹配。
音素-视素不匹配技术使用先进的人工智能算法来分析视频并检测这些不一致之处。
它将嘴部的运动(视素)与说出的单词(音素)进行比较,并寻找任何不匹配之处。
如果检测到不匹配,则强烈表明该视频是深度伪造的。
使用音视素不匹配进行 Deepfake 检测的主要特点:
-
由斯坦福大学和加州大学的研究人员开发
-
利用深度伪造中的视素和音素之间的不一致
-
使用先进的人工智能算法来检测不匹配
-
如果检测到不匹配,则表明存在深度伪造
访问深度伪造检测 →
https://openaccess.thecvf.com/content_CVPRW_2020/papers/w39/Agarwal_Detecting_Deep-Fake_Videos_From_Phoneme-Viseme_Mismatches_CVPRW_2020_paper.pdf
深度伪造检测的未来
当我们在 21 世纪的数字世界中穿梭时,深度伪造的威胁越来越大。
这些人工智能生成的视频可以令人信服地模仿真人,对在线内容的真实性构成了重大威胁。
它们有可能破坏从人际关系到政治选举的一切,因此对有效的深度伪造检测工具和技术的需求比以往任何时候都更加迫切。
我们在本博客中探讨的五种深度伪造检测工具和技术代表了该领域的前沿技术。
它们利用先进的人工智能算法以惊人的准确度分析和检测深度伪造。每种工具和技术都提供了一种独特的深度伪造检测方法,从分析视频中微妙的灰度元素到跟踪拍摄对象的面部表情和动作。
例如,Sentinel 使用 AI 分析数字媒体并确定其是否被篡改,并提供篡改的可视化效果。另一方面,微软的视频认证工具提供了实时置信度分数,可指示静态照片或视频是否被篡改。
这些工具以及我们讨论过的其他工具正在引领对抗深度伪造的斗争,帮助确保在线内容的真实性。
然而,随着深度伪造背后的技术不断发展,我们的检测方法也必须不断进步。深度伪造技术的发展瞬息万变,我们的工具和技术也必须不断发展以跟上步伐。
这将需要持续的研究和开发,以及研究人员、科技公司和政策制定者之间的合作。
此外,重要的是要记住,仅靠技术无法解决深度伪造问题。教育和意识也至关重要。我们都必须成为更加挑剔的在线内容消费者,质疑信息来源并寻找操纵的迹象。
通过了解深度伪造技术和检测的最新发展,我们都可以在打击这一威胁中发挥作用。