Deepfake技术在语音合成、视频模拟等方面带来诸多益处，但也引发欺骗和伦理问题。开发者应采取措施限制工具滥用，如审查用户、明确披露合成信息、水印保护等。同时，资助者和政策制定者需推动道德规范和平台策略，以应对合成媒体带来的风险。
全文共3088字，预计学习时长9分钟
图源：www.ifanr.com
ZAO、激萌、天天P图等一众换脸软件的“始祖”Deepfake可谓是造福无数当代青年。
Deepfake，又称为合成媒体技术。距离它诞生已有三年之久，2017年，一神秘男子将自己制作的换脸视频发布在网络上，并在接下来的一段时间里，他利用这一技术将国外女明星的照片与色情影片合成，几乎可以以假乱真，在当时掀起了不小的风浪。但随着以盖尔·加朵为代表的大量受害者投诉，最终该男子账号被封杀，视频被删光。一怒之下，该男子直接开源了其AI换脸项目的代码。
该男子就是“Deepfake”（用户ID）。也是我们现在的“Deepfake”，在它的催化下，衍生技术百花齐放。
图源：www.ifanr.com
其实，Deepfake益处良多。
例如，语音合成能使人们用自己的声音说出上百种语言。视频合成可用于模拟无人驾驶汽车事故以避免未来可能发生的错误。
但若不谨慎使用这项技术可能会付出巨大的代价：同样的底层技术可能导致全球性的欺骗。
值得庆幸的是，通过努力，可以在实现这项技术的光明前景的同时降低它的风险。
图源：Unsplash
“如果用户滥用我们的工具，我们也无能为力。”开发者可以这样说以逃避责任。
因为开发者可以做许多事，只是他们通常不愿意做。另一种观点是“这种技术无论如何都会出现”，这并不完全错误，但“如何”和“何时”才是重要的问题，而开发者的选择会改变这两大问题。
我们不能躲在“总会存在欺骗”的陈词滥调背后，而忽略程度和影响方面的重大差异。
Deepfake技术的代价已经产生。合成换脸视频使记者陷入沉默;合成语音被用于大型欺诈交易，而合成人脸据称支持间谍活动。所有这些都是目前使用有漏洞的公测软件所面临的挑战。对于大多数恶意攻击者来说，使用合成媒体技术的障碍仍然很大，不足以吸引他们。但从有漏洞的公测版本到软件正式发布期间，我们有责任通过提高非法利用deepfake的难度来避免最糟糕情形的出现。
说的容易，但具体如何去做呢？
可采取以下几种措施降低恶
最低0.47元/天 解锁文章
2122
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
