员工发现深度造假骗局的方法

由于其日益复杂的技术，深度造假已迅速进入消费者和商业意识。 

现在比以往任何时候都更有可能以更高的质量模仿人类。这是因为用于创建深度赝品的人工智能工具的访问权限更好，再加上低成本的进入壁垒，意味着可以大规模部署令人信服的赝品。

我们的研究发现，在你对我谈论任何话题的 30 秒或更短时间内，我或任何其他拥有相关人工智能工具的外行都可以针对我想要的任何话题对你的声音进行深度伪造，只要我愿意，几乎没有成本。这是一个游戏规则的改变者，同样的事情现在也适用于视频。

深度造假攻击（成功的攻击）的数量是惊人的；根据 Sumsub Research 去年发布的一份报告，从 2022 年到 2023 年，全球 Deepfake 事件激增了十倍，其中北美的 Deepfake 攻击增长率最高，达到 1740%。

对于企业来说，一个关键问题是高管是否可以令人信服地被深度造假，或者“特权”员工是否会被这种造假所愚弄。今年早些时候，香港一位勤奋的财务人员通过一场精心设计的视频会议，与该公司首席财务官的假人进行了一场精心设计的视频会议，欺骗她批准了一笔 2500 万美元的付款。

他要求召开 Zoom 会议来回应转账请求，并在与他认为是首席财务官和同一通话中的其他几位同事交谈后才发送了资金，这些人都是 Deepfake。该案例使技术的发展及其作为商业诈骗新威胁媒介的潜力成为现实。  

与恶意部署深度伪造品相关的重大业务影响让人们和企业询问他们可以采取哪些措施来保护自己及其运营。他们如何判断视频会议另一端的人是否是真实的而不是人工智能创造的？

在高层，它要求人们保持警惕并进行一些常识性检查。在所有情况下，人们倾向于权衡他们所看到的并做出某些风险评估和判断。就像人们目前检查电子邮件或其内容的准确性一样 - 交叉检查发件人 ID、将鼠标悬停在 URL 或附加文件上、检查风格和语法 - 他们可以从将相同类型的方法应用于视频会议中受益今天。

这种线索和风险因素的三角测量是一种“多因素身份验证”，我们现在需要在工作场所环境中更有意识地执行。

技巧和窍门

那么，员工现在可以执行哪些检查来检测深度造假，或者提醒自己注意利用深度造假技术的更复杂的诈骗企图？

第一个是执行快速的“活跃度”检查 - 要求视频另一端的人将头从一侧转向另一侧。这在今天很有效，因为用于生产 Deepfakes 的生成式 AI 工具无法创建人的 3D 或 360 度相似度，它们只能生成平面正面图像。

头部和脸部的侧视图将无法正确渲染或显示。因此，如果员工感到可疑，他们应该要求该人向左或向右转，如果脸部消失，则挂断电话。

同样，在视频会议上经常观察到的其他自然人类行为（例如，某人伸手抓挠或触摸自己的头）也不会在深度伪造中正确显示。

这在今天有效，但明天可能不会。生成式人工智能的快速发展意味着该工具将能够更好地创建更真实的人类及其行为举止，随着时间的推移，这可能会使活度检查变得更具挑战性。 

员工或许能够发现更多线索，表明与高管的视频会议并不像看上去那样。 

收到视频会议链接或加入多方通话时，一项有用的检查是检查参与者是否使用该软件的公司许可版本参加会议。这通常是显而易见的，因为公司使用“虚荣 URL”（companyname.videoplatform.com）来显示他们的呼叫来源。

通过提前沟通（通过聊天或电子邮件等不同方法）您和其他人将如何加入视频会议，可以进一步建立信任。如果您提前知道，您将收到来自某个公司域的视频会议邀请；这是在决定是否接受会议时可以考虑的另一个“因素”。

如果会议是从个人帐户发起的，或者有人意外加入并且没有通过个人帐户进行解释，则可能是一个危险信号 - 并至少需要提出一两个问题或进行一些进一步的检查。

第三个有用的策略是商定内部码字，在执行某些操作（例如转账）之前必须对这些码字进行带外检查。

就这名员工而言，这意味着要通过完全不同的渠道给他们认为正在交谈的首席财务官发消息，并询问“这个词是什么？”他们得到的答复很快就会告诉他们“首席财务官”以及所提出的要求是否真实。

员工应继续保持谨慎和关注，运用所有可以掌握的技巧，及时了解人工智能技术的发展，以应对遇到深度造假的威胁。

他们的努力可以得到实施网络安全解决方案的组织的有力支持，包括强大的电子邮件保护，可以首先检测并防止许多恶意会议邀请发送到收件箱。

鉴于威胁的真实性，采取全面的保护措施非常重要。