人工智能技术是把双刃剑，Deepfake技术真的是未来伪造欺骗的始作俑者吗？

文 | BFT机器人 

随着人工智能越来越深入地融入我们的日常生活，深度造假技术已成为许多人日益关注的问题，尤其是那些喜欢在社交媒体上分享个人生活动态的人。无论是与朋友共度夜晚，还是在巴哈马与家人野餐，在Instagram、Facebook和Snapchat等平台上分享的照片，这样的生活分享很有可能会遭到潜在的信息滥用。

一位来自韩国的年轻女子，最近在社交媒体上发表了一段，她作为报复行为而制作的深度伪造视频。视频中，她似乎赤身裸体。她激动地恳求删除人工智能而生成她的不实视频，并敦促该伪造的人停止传播该视频。

2023年10月，哥伦比亚广播公司的早间节目 (CBS Mornings) 联合主持人盖尔·金 (Gayle King)、演员汤姆·汉克斯 (Tom Hanks) 和YouTube名人MrBeast等知名人士成为社交媒体平台上被传播未经授权的深度造假视频的受害者。另一段由美国有线电视新闻网 (CNN) 记者克拉丽莎·沃德 (Clarissa Ward) 在以色列和加沙边境附近拍摄的视频被篡改，也引发了人们对报道的质疑。

这些视频采用尖端的Deepfake技术制作，能够替代现有内容中的事物。它们的现实本质令人不安，导致许多人相信它们的真实性，其中包括人工智能生成的模仿著名明星的歌曲，这些歌星中的一部分人已成为排行榜冠军。

此类事件引发了全球对可能造成公开羞辱、骚扰和勒索的担忧，进一步凸显了深度造假的险恶存在。

为什么Deepfake技术比你想象的更危险

令人不安事件的增加，表明采取积极措施打击深度造假的紧迫性。目前，即使在美国，也没有针对深度伪造或未经授权的人工智能生成内容的普遍法律。虽然无法完全根除它们，但可以采取保护措施。

深度伪造技术，就是利用人工智能来制作逼真的图像、视频或音频剪辑，但这些内容是捏造的。这种欺骗性技术在2017年左右变得引人注目，因为当时一位匿名Reddit用户发现了一种生成逼真假视频的算法。

尽管人工智能最初是用于娱乐、教育或激进主义，但人工智能的快速发展，加上深度造假功能，而带来了许多安全和道德问题。这包括：

1.侵犯隐私：一个主要问题是未经授权使用个人肖像。著名的案例包括名人的深度伪造成人视频，损害了他们的形象。例如，2017年，一段冒充女演员盖尔·加朵的不当视频广泛传播。

2.虚假信息和操纵：深度造假可能会扭曲事实，影响公众舆论。一个著名的例子是由BuzzFeed和JordanPeele创建的以前总统奥巴马为主角的深度伪造视频。尽管其目的是作为针对错误信息的公益广告，但它强调了该技术潜在的滥用情况。

播放网址：https://youtu.be/cQ54GDm1eL0

3.欺诈和勒索：该技术可以通过语音/图像复制产生虚假证据或欺骗。犯罪分子可能会利用Deepfake技术进行勒索，甚至进行金融欺诈，例如一家英国能源公司被欺骗通过语音Deepfake技术转移大量资金。

4.偏见和歧视：深度造假可能会延续或放大社会偏见，可能会歪曲特定的人口统计数据。

Deepfakes：对民主、关系和身份的威胁

虽然深度造假技术本身并不具有恶意，但如果一些有着不良居心的人滥用可能会造成他人损害。正如Netflix 的“DeepFake Love”和“Clickbait”等娱乐节目所展示的那样，它可能会扭曲选举结果、使人际关系紧张并侵犯个人身份。

结论性思考

Deepfakes正在改变数字领域，开启创新途径，同时带来道德挑战。全球监管和有效检测工具的缺乏使这一问题成为一个关键问题。虽然公众意识和媒体素养至关重要，但它们只是解决方案的一部分。

思考这一点至关重要：我们是否将深度伪造视为技术奇迹或对个人和社会福祉的威胁？这种对话必须持续下去，因为集体意识和行动对于减轻深度造假技术的有害影响至关重要。

END

外文翻译 | 春花

排版 | 春花

审核 | 柒柒

若您对该文章内容有任何疑问，请与我们联系，将及时回应。