Deepfake技术的普及加剧了假新闻的传播，可能导致社会信任危机。区块链技术因其不可篡改的特性，被寄予重建信任体系的期望。尽管目前的解决方案如Amber和Signed at Source等提供了视频验证手段，但面对不断进化的Deepfake算法，仍存在挑战。区块链结合硬件解决方案可能提供部分答案，但仍需各方共同努力，包括技术开发者、监管机构和公众的理性判断，来应对Deepfake带来的威胁。
“假新闻”一词已经成为当下的热门话题，而Deepfake(即看似真实，但实为伪造的视频操纵行为)则会进一步加剧民众与媒体之间的不信任危机。
作者：佚名来源
“假新闻”一词已经成为当下的热门话题，而Deepfake(即看似真实，但实为伪造的视频操纵行为)则会进一步加剧民众与媒体之间的不信任危机。技术人员希望利用区块链的天然特性重建信任体系，以帮助公众再度获得对所见、所闻的信任感。
时至今日，真相正逐渐变成一种相对成立的表达。当每个人都有属于自己的一套真相时，民主将变得毫无意义。Deepfake的出现，则又给整个社会一记沉重的打击——越来越多的人可以轻松根据自己的观点及目标制造事实。短短几年之内，我们的肉眼与耳朵已经无法分辨视频或者音频内容是否属实。换言之，人类社会正面临一个新的难题。
将“深度学习”与“伪造”结合起来，我们得到的就是deepfake——大家可以理解成人工智能支持下的超级PS技术。只要能够提供与现有主题相关的充足数据(或者素材)，deepfake算法完全可以被用于操纵视频内容，人类几乎无法看出其中的破绽。
Deepfake的社会影响
Deepfake有可能改变舆论、左右选举结果或者引发种族暴力。在人身攻击层面采取伪造宣传方法早已不再新鲜，但随着deepfake的出现，信息的伪造手段提升到了新的层面。在AI技术快速发展以及社交媒体病毒式传播的双重作用下，deepfake可能会成为困扰人类发展的最可怕技术之一。
Deepfake还拥有着改变游戏规则的力量，其原因有二。第一，deepfake代表着目前AI技术所能达到的复杂性高度。第二，也是更重要的一点，其技术获取途径正在快速民主化。
Deepfake的意义甚至与社会性无关，而可能表现为一种非常个人的行为。某个匿名Reddit账户就因利用deepfake技术大肆制作名人伪造视频而广为人知——主要是色情视频。虽然这位作者的subreddit早在2018年2月就被封禁，但其视频作品目前仍在网络上广泛传播。
然而，deepfake的流行又催生出新的应用方向。名人不再是唯一的潜在受害者，如今极为广泛的获取途径以及更低的上手门槛，使得任何人都可以制作“报复性”视频。
软件生态
自此之后，市场上出现了多家致力于解决deepfake骗局的初创企业，Ambervideo.co当数其中的佼佼者之一。考虑到伪造视频使得真实记录越来越难以成为合法的证物，Amber公司希望构建起一套中间层，用于检测恶意变更。此外，他们还努力开发出检测与验证技术方案。
为了进行检测，Amber拥有一款软件工具，能够查看视频与音频轨道以及其中的种种元素，从而找到一切可能的修改迹象。Amber公司还在训练自己的AI模型，用于适应视频修改过程中所留下的种种特定模式。
这种方法的问题在于其严重依赖于反应机制，因为AI只能从以往出现过的模式出发进行学习。这种识别方式几乎无法检测出较新的deepfake算法，因此人们普遍认为这种检测思路将长期落后于最先进的生成技术。
为了解决这个问题，Amber又开发出了验证技术：加密指纹会在录制后立即被添加在视频之上。Amber Authenticate利用区块链基础设施每隔30秒进行一次哈希存储，因此对这些哈希产生影响的任何活动都有可能代表着篡改行为。
除了Amber这类软件解决方案之外，应对deepfake难题还需要硬件解决方案的支持。Signed at Source等企业正在通过为利益相关方提供摄像机集成产品的方式，自动对捕捉到的数据进行签名。Deepfake视频几乎无法提供与自动捕捉数据相同的签名信息，这意味着我们能够证明是哪台摄像机录制了这段视频，从而完成溯源以及伪造识别工作。
现实用例
2019年10月3日，美国执法部门技术供应商Axon Enterprise公司宣布，他们正在探索对便携摄像机的全新数据跟踪技术，并将利用区块链技术验证警员随身设备拍下的视频的真实性。
Axon并不是唯一致力于解决deepfake相关问题的组织。国防高级研究计划局(DARPA)的媒体取证计划正在开发“用于自动评估图像或视频完整性的技术。”为了帮助证明视频是否经过篡改，Factom Protocol公司提出了一种新的解决方案，名为Off-Blocks。Factom Protocol市场营销总监Greg Forst表示：
“在对新闻、内容以及文档的准确性进行严格审查时，deepfake技术的兴起无疑给我们的社会带来了重大威胁。随着这种现象的兴起以及使用门槛的下降，我们可能将很难信任任何以视频形式呈现的信息。这是一种危险的趋势，模糊了数字身份的界线，因此我们需要在最严格的安全措施当中考虑到这项挑战。”
Forst认为，开发人员、区块链布道者以及网络安全专家还应着力探索不同的途径，尝试缓解deepfake造成的危害。数字解决方案的真实性证明能力对于消除伪造内容至关重要。遗憾的是，此类解决方案目前仍无法提供对数字媒体历史与出版的跟踪功能。
区块链能否拯救一切?
以Axiom的执法随机摄像机为例，视频在源记录器中即被添加进指纹信息。这些指纹被写入至不可变区块链之上，并可由设备下载并上传至云端。这些事件都将被记录在智能合约当中，并由合约负责整理出审计跟踪索引。
Axiom公司使用的技术被称为“受控捕捉系统”，其应用范围当然不止于警用摄像机。它能够从内容源中提取签名，并利用加密方式进行签名，从而实现视频记录的可验证性。
但是，由于视频往往会经过编码，因此即使在理想情况下，我们也很难获取到原始数据。另外，就算对视频进行极小的修改，签名也将不再有效。而且编码也不是唯一的问题——如果有人使用原始摄像机之外的设备进行视频转录，我们将同样无法访问到原始视频数据。
谷歌的Content ID可能代表着一种可行的解决方案。该服务最初是为了揪出盗版活动所开发，但后来人们发现其可被用于检测deepfake行为。在投入1亿多美元进行系统开发之后，谷歌公司成功创建出一种算法，能够将用户上传的视频与一组注册在案的参考视频进行匹配，从而消除部分匹配或者小幅修改造成的真实性影响。
但只有在deepfake内容与原始副本非常相似时，该算法才能发挥作用。此外，保留大量指纹并调整变更算法，会对数据以及计算要求产生重大影响。在谈论区块链技术能否应对由deepfake带来的威胁时，Factom公司的Frost补充道：
“谈到deepfake，区块链技术有望带来独特的解决方案。通过在区块链之上创建视频内容，再配合验证标签或图形，其能够给deepfake行为设置更高的门槛。……数字身份必须强调内容的来源与创作者。我们可以看到，新闻与电影行业可能正在寻求这种解决方案;不过潜在的操纵者完全可以注册为合法用户并在系统当中插入deepfake文件，因此情况仍然相当棘手。即使是在区块链之上，不良数据仍然是不良数据。因此我倾向于使用一整套解决方案组合。”
通常情况下，由于传播与影响的起效速度很快，因此现有检测技术往往根本就找不到施展的舞台。由deepfake视频带来的公众形象损失可能难以修复，种族或民族之间的矛盾也会快速升级，甚至让个人间的关系在事件得到验证前就彻底崩溃。换言之，最大的问题在于如今的信息传播速度已经失控。
齐心协力打击deepfake
Purple Quarter公司首席运营官、搜索业务技术主管Roopa Kumar认为必须强调技术本身的危害性：
“以核能为例，其既可被用于为数百万居民供电，也有可能落入恶人手中在瞬间抹杀上百万条人命。技术本身没有任何道德观念，但人类有。Deepfake可以被用于制作有趣的应用，以供每个人在手机上使用。但是，如果被恶意人士所掌握，同样的应用程序也有可能颠覆我们所熟悉的日常生活乃至社会结构。”
如今，很多人对政府及银行等大规模中央机构已经不再信任。而区块链的核心原则，也正是强调这种不信任心态。然而，区块链(乃至整个技术生态)并不足以承担起与deepfake斗争的全部责任。
因此，各方必须齐心协力，共同打击deepfake。从事deepfake技术研究的开发人员必须在线发布代码，以便第三方能够交叉检查。此外，监管机构还应探索如何更好地监督这一领域。最重要的是，要让民众充分了解这种技术，并确保在接纳一切信息前都首先进行理性判断。
扫一扫
206
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
