生成人工智能可以为钓鱼者节省两天的工作

根据IBM的一项新研究，生成式人工智能工具可以为网络钓鱼行为者节省16个小时的设计诈骗电子邮件的工作，但在制作更有说服力的邮件方面，仍然无法与人类的技巧相媲美。

社会工程专家斯蒂芬妮·卡拉瑟斯透露了一个新研究项目的细节，在这个项目中，她的团队试图了解生成式人工智能模型是否具有与人类思维相同的欺骗能力。

她解释说:“只需要5个简单的提示，我们就能骗过一个生成式人工智能模型，在5分钟内写出令人信服的网络钓鱼邮件，这和我泡一杯咖啡的时间一样。”

她说：“我的团队通常需要大约16个小时来构建一个网络钓鱼电子邮件，这还没有考虑到基础设施的设置。因此，攻击者可以通过使用生成式人工智能模型节省近两天的工作。”

这些提示包括在特定行业工作的员工最关心的领域，应使用的社会工程和营销技巧，以及应该被模仿的人/公司。

卡拉瑟斯说：“我有近十年的社会工程经验，制作了数百封网络钓鱼邮件，我甚至发现人工智能生成的网络钓鱼邮件相当有说服力。事实上，最初有三个组织同意参与这个研究项目，但有两个组织在审查了这两封网络钓鱼邮件后完全退出了，因为他们认为成功率很高。”

然而，IBM X-Force Red社交工程团队的努力稍微成功一些，他们利用创造力和一点心理学与目标产生了更深刻的共鸣，并增加了一种卡拉瑟斯声称人工智能难以复制的真实性。

一轮A/B测试显示，人工生成的网络钓鱼邮件的点击率(14%)略高于人工生成的电子邮件(11%)。它的报告频率(52%)也低于人工智能版本(59%)。

然而，人工智能很可能在未来的网络钓鱼行业中成为一股越来越具有颠覆性的力量，尤其是在像WormGPT这样的恶意工具中使用时。

卡拉瑟斯总结道：“人类可能以微弱优势赢得了这场比赛，但人工智能正在不断进步。随着技术的进步，我们只能期待人工智能变得更加复杂，甚至有可能在某一天超越人类。”