美国分析人工智能技术对网络格局的影响（下）

---

前言

以生成式人工智能在网络犯罪市场中的作用为例。利用生成式人工智能（无论是通过生成文本、语音还是图像）的近期威胁之一是在网络操作的初始访问阶段将此类内容用于社会工程和鱼叉式网络钓鱼。例如，一份行业报告显示，自ChatGPT发布以来，网络钓鱼电子邮件增加了1265%。然而，与以前相比，使用此类生成式人工智能工具所带来的边际收益增长在不同威胁行为者和情况下并不一致。

---

六、边际效应和威胁

另一个需要关注的重要问题是考虑人工智能在增强网操作各个阶段的边际效应最大的地方。例如，英国国家网络安全中心对人工智能对网络威胁的近期影响的评估强调了人工智能对初始访问、横向移动和渗透等攻击过程的影响，影响范围从无提升到显著提升。从可能的边际效应角度思考人工智能对网络的影响，有助于优先考虑对特定威胁的政策关注，并避免世界末日场景和过度推测。

衡量网络钓鱼电子邮件是否成功的一种方法是衡量其“点击率”，即受害者是否成功点击了恶意链接。新兴研究表明，虽然人工智能生成的网络钓鱼电子邮件的点击率仍略低于受过训练的社会工程师手写的电子邮件，但使用大型语言模型生成网络钓鱼电子邮件所需的时间要少得多（5分钟，而不是IBM 研究中的16个小时）。这种动态显示了我所说的“质量与效率的权衡”。未来，如果人工智能生成的网络钓鱼可以根据组织的正常通信模式进行定制和/或集成到能够大规模迭代对话的类似聊天机器人的代理中，那么它们的点击率可能会更高。但即使是现在，一些威胁行为者也非常乐意使用此类工具扩大网络钓鱼活动的规