智安网络丨人工智能在网络攻防领域的应用及问题分析

算法、数据与算力是人工智能发展的三大核心要素。近些年来，在算法增强、数据爆增及算力提升等多种有利因素的驱动下，人工智能飞速发展并在各行各业得到广泛应用，在网络空间安全领域也不例外。网络攻防对抗不断演化升级，人工智能因其具备自学习和自适应能力，可为自动化网络攻防提供助力，已成为网络攻防的核心关键技术之一。

一、人工智能在网络攻防领域的应用
为了更好地理解人工智能在网络攻防领域的应用，现从攻防视角及攻防主体采用人工智能意图这两个维度共四个方面展开（如下图所示）。

图 人工智能在网络攻防领域的应用

（一）人工智能助力网络攻击
人工智能使得网络攻击更加强大，一方面，可将参与网络攻击的任务自动化和规模化，用较低成本获取高收益；另一方面，可以自动分析攻击目标的安全防御机制，针对薄弱环节定制攻击从而绕过安全机制，提高攻击的成功率。调研近几年人工智能在网络攻击方面的应用研究显示，利用人工智能开展的网络攻击方式包括但不限于：定制绕过杀毒软件的恶意代码或者通信流量；智能口令猜解；攻破验证码技术实现未经授权访问；鱼叉式网络钓鱼；对攻击目标的精准定位与打击；自动化渗透测试等。

1. 恶意代码免杀。利用深度强化学习网络提出一种攻击静态 PE（移植文件）反杀毒引擎的黑盒攻击方法，这是当前第一个可以产生对抗性 PE 恶意代码的工作，在模拟现实的攻击中达到 90% 的成功率。

2. 基于生成对抗网络框架 IDSGAN 生成恶意流量。基于生成对抗网络的框架 IDSGAN 利用生成器将原始恶意流量转换为对抗性恶意流量，可以欺骗和逃避入侵检测系统。实验证明，多数对抗流量可以欺骗并绕过现有的入侵检测系统的检测，规避率达到 99.0% 以上。

3. 智能口令猜解。基于多数据集的密码生成模型 GENPass，借用 PCFG（概率上下文无关文法）和GAN（生成式对抗网络）的思想，通过长短时记忆神经网络训练，提高了单数据集的命中率和多数据集的泛化性。

4. 新型文本验证码求解器。提出一种基于 GAN的通用有效的文本验证码求解器。通过将验证码所用的字符、字符旋转角度等参数化，自动生成验证码训练数据，并使用迁移学习技术调优模型，提高了验证码识别模型的泛化能力和识别精度。该方法可以攻破全球排名前 50 网站使用的所有文本验证码（截至 2018 年 4 月），包括谷歌、eBay、微软、维基百科、淘宝、百度、腾讯、搜狐和京东等网站。

5. 自动化高级鱼叉式钓鱼。基于 Twitter 的端到端鱼叉式网络钓鱼方法，采用马尔可夫模型和递归神经网络（LSTM）构造更接近于人类撰写的推文内容。经测试发现，该钓鱼框架成功率为 30%~60%，一度超过手动鱼叉式网络钓鱼的成功率（45%）。

6. 网络钓鱼电子邮件生成。基于 RNN（循环神经网络）的自然语言生成技术 NLG，自动生成针对目标的虚假电子邮件（带有恶意意图），并通过个人真实邮件数据和钓鱼邮件数据进行训练。实验证明，RNN 生成的电子邮件具有更好的连贯性和更少的语法错误，能更好地进行网络钓鱼电子邮件攻击。

7. DeepLocker 新型恶意软件。该恶意软件具有高度的针对性及躲避性，可以隐藏恶意意图直到感染特定目标。一旦人工智能模型（深度神经网络 DNN）通过面部识别、地理定位、语音识别等方式识别到攻击目标，就会释放出恶意行为。人工智能的使用使得解锁攻击的触发条件几乎不可能进行逆向工程。<