AI攻击AI，升级的网络安全战

在近期召开的在一次网络安全会议上，100位受访行业专家中的62位认为，首轮AI强化型网络攻击很可能在接下来12个月内出现。

AI的介入会进一步升级目前的网络犯罪与网络安全体系，进而成为攻击者与防御者之间军备竞赛的核心支柱之一。

这种担忧并不是空穴来风。网络安全是一个人力受限的市场，而计算机除了不需要进食与休息之外，还能够以AI自动化的方式，提升复杂攻击的速度与执行效率，这很容易诱使黑客使用AI进行攻击。

虽然目前公共领域的研究，仅限于白帽黑客使用计算机识别漏洞并提出修复建议。

然而，以AI的发展速度，攻击者对其大规模应用也是指日可待的事。

AI型网络攻击

​ 会带来哪些威胁？

首先，AI能够帮助黑客定制攻击手段。

举例来说，鱼叉式钓鱼攻击要求攻击者获取潜在目标的个人信息以及其它详细资料，具体包括银行帐户或者其选择的医疗保险公司。

AI系统能够帮助攻击者快速收集、组织并处理大型数据库，从而对信息进行关联与识别，最终简化攻击实施门槛并加快攻击执行速度。

另外，工作量的降低将使得网络犯罪分子能够发动大量的小规模攻击。

由于单次攻击的影响较为有限，因此这类活动即使被检测到也往往会受到忽视。

AI系统甚至可被用于从多个来源处同时提取信息，从而发现那些易受攻击活动影响的目标。

其次，AI能够帮助提升适应能力。

AI支持型攻击者在遇到阻力，或者网络安全专家修复了原有漏洞时，能够快速作出反应。

在这种情况下，AI可能会在无需人为指示的前提下转而利用另一项漏洞，或者对系统进行扫描以找到新的可行入侵方式。

这意味着防御者将无法跟上AI方案的进攻速度。

这极有可能引发新一轮编程与技术性军备竞赛，其中防御者开发出AI助手以发现并抵御攻击活动，甚至打造出拥有报复性攻击能力的AI方案。

第三，AI同样可能带来的危险。

AI自主操作可能导致其攻击本不应攻击的对象，甚至可能造成意外损失的系统。

举例来说，原本只打算窃取资金的攻击者，在运行AI软件后，也许会决定将目标指向医院计算机，这极易导致人身伤害甚至是死亡等严重后果。

尽管后果与影响如此重要，但大多数企业在遭遇第一次AI攻击时，并不会注意到此类重大变化。

但随着我们不断利用AI系统改进自身家庭环境、工厂、办公室乃至交通运输系统，AI引发的潜在威胁必将不断提升。

使用AI对AI进行攻击

除了AI带来的自动化攻击，黑客使用AI对AI进行攻击，也成为业界最为关注的潜在威胁。

对抗性的机器学习研究表明，AI可能会被黑客攻击，从而做出完全错误的决策。

随着人工智能渗透到我们生活的方方面面——驾驶汽车、分析视频监控系统、通过面部识别某人身份——对这些系统的攻击变得更加可能，也更加危险。

例如：黑客修改路边交通标志，可能会导致车祸和人员伤害，对数据机器学习系统的细微改变，也会导致人工智能系统做出的决策出现偏差。

为了防止黑客想要通过篡改数据集或现实环境来攻击人工智能，研究人员转向对抗性的机器学习研究。

在这种情况下，研究人员对数据进行修改，从而欺骗神经网络和人工智能系统，让它们看到不存在的东西，忽略存在的东西，或者使得其关于分类对象的决策完全错误。

就像谷歌和纽约大学研究人员所做的那样，在一辆校车的照片上，加上一层对人类来说无形的数据噪声，神经网络就会认为那是一只鸵鸟。

不仅仅是图像可以这样，隐藏的语音指令嵌入到广播中，从而控制智能手机，同时不会让人们察觉。

华盛顿大学计算机安全研究员Earlence Fernandes也从事停车标志研究，他表示：“攻击的范围很广，取决于攻击者处在机器学习模型生成过程的哪个阶段。”

例如：在人脸检测算法中，攻击者可能会用恶意数据对模型施以毒害，从而使检测算法将攻击者的脸识别为授权人。”

另一方面，推理时间攻击则是通过一系列算法——比如快速梯度符号法（Fast Gradient Sign Method，FGSM）和当前最优攻击方法(Carlini and Wagner)是两种最流行的算法——向模型显示精心制作的输入，从而迷惑神经网络。

虽然这类工作现在被描述为一种攻击，但从哲学角度来说，对抗性的例子最初被视为神经网络设计中的一个近乎盲点：我们假设机器以我们同样的方式看东西，它们用与我们相似的标准来识别物体。

2014年，谷歌研究人员在一篇关于“神经网络的有趣特性”的论文中首次描述了这一想法，该论文描述了如何在图像中添加“扰动”元素会导致神经网络出现错误——他们称之为“对抗性示例”。

他们发现，微小的扭曲就可能会骗过神经网络，使其误读一个数字或误将校车当成别的什么东西。

这项研究对神经网络“固有盲点”以及它们在学习过程中的“非直觉特征”提出了质疑。

换句话说，我们并不真正了解神经网络是如何运作的。

正是基于神经网络的不可理解性，人们也就暂时不用太担心AI攻击事件发生。

麻省理工学院的研究员Anish Athalye指出，“据我们所知，这种类型的攻击，目前还没有在被现实世界中的恶意组织所采纳过。”

针对AI攻击的防御措施

那么，对于潜在的AI攻击风险，人们可以做到哪些潜在的防御措施呢？

首先，显而易见的，增加网络防御中AI的使用，并非坏的选择。

网络防御已经采用了一种监管和非监管相结合的学习方法，基于现有的模式预测新的威胁和恶意软件。

行为分析是另一种探索途径。机器学习技术可用于监控系统和人类活动，以检测潜在的恶意偏离。

但重要的是，在使用AI进行防御时，我们应该假设攻击者已经对此有所预料。

我们还必须掌控AI的发展及其在网络中的应用，以便能够可靠地预测恶意应用程序。

为了实现这一目标，行业从业者、学术研究人员和决策者之间的合作至关重要。

立法者必须考虑到AI的潜在用途，并更新关于“黑客”的定义。研究人员应该谨防其研究成果被恶意使用。补丁和漏洞管理程序也应该在企业界得到应有的重视。

考虑到AI的潜在用途，并更新关于“黑客”的定义。研究人员应该谨防其研究成果被恶意使用。补丁和漏洞管理程序也应该在企业界得到应有的重视。

最后，用户也应当树立安全意识，防止社会工程攻击，阻止密码重用，并在可行的情况下提倡双因素身份验证。接下来我将给各位同学划分一张学习计划表！

学习计划

那么问题又来了，作为萌新小白，我应该先学什么，再学什么？
既然你都问的这么直白了，我就告诉你，零基础应该从什么开始学起：

阶段一：初级网络安全工程师

接下来我将给大家安排一个为期1个月的网络安全初级计划，当你学完后，你基本可以从事一份网络安全相关的工作，比如渗透测试、Web渗透、安全服务、安全分析等岗位；其中，如果你等保模块学的好，还可以从事等保工程师。

综合薪资区间6k~15k

1、网络安全理论知识（2天）
①了解行业相关背景，前景，确定发展方向。
②学习网络安全相关法律法规。
③网络安全运营的概念。
④等保简介、等保规定、流程和规范。（非常重要）

2、渗透测试基础（1周）
①渗透测试的流程、分类、标准
②信息收集技术：主动/被动信息搜集、Nmap工具、Google Hacking
③漏洞扫描、漏洞利用、原理，利用方法、工具（MSF）、绕过IDS和反病毒侦察
④主机攻防演练：MS17-010、MS08-067、MS10-046、MS12-20等

3、操作系统基础（1周）
①Windows系统常见功能和命令
②Kali Linux系统常见功能和命令
③操作系统安全（系统入侵排查/系统加固基础）

4、计算机网络基础（1周）
①计算机网络基础、协议和架构
②网络通信原理、OSI模型、数据转发流程
③常见协议解析（HTTP、TCP/IP、ARP等）
④网络攻击技术与网络安全防御技术
⑤Web漏洞原理与防御：主动/被动攻击、DDOS攻击、CVE漏洞复现

5、数据库基础操作（2天）
①数据库基础
②SQL语言基础
③数据库安全加固

6、Web渗透（1周）
①HTML、CSS和JavaScript简介
②OWASP Top10
③Web漏洞扫描工具
④Web渗透工具：Nmap、BurpSuite、SQLMap、其他（菜刀、漏扫等）

那么，到此为止，已经耗时1个月左右。你已经成功成为了一名“脚本小子”。那么你还想接着往下探索吗？

阶段二：中级or高级网络安全工程师（看自己能力）

综合薪资区间15k~30k

7、脚本编程学习（4周）
在网络安全领域。是否具备编程能力是“脚本小子”和真正网络安全工程师的本质区别。在实际的渗透测试过程中，面对复杂多变的网络环境，当常用工具不能满足实际需求的时候，往往需要对现有工具进行扩展，或者编写符合我们要求的工具、自动化脚本，这个时候就需要具备一定的编程能力。在分秒必争的CTF竞赛中，想要高效地使用自制的脚本工具来实现各种目的，更是需要拥有编程能力。

零基础入门的同学，我建议选择脚本语言Python/PHP/Go/Java中的一种，对常用库进行编程学习
搭建开发环境和选择IDE，PHP环境推荐Wamp和XAMPP，IDE强烈推荐Sublime；

Python编程学习，学习内容包含：语法、正则、文件、 网络、多线程等常用库，推荐《Python核心编程》，没必要看完

用Python编写漏洞的exp,然后写一个简单的网络爬虫

PHP基本语法学习并书写一个简单的博客系统

熟悉MVC架构，并试着学习一个PHP框架或者Python框架 (可选)

了解Bootstrap的布局或者CSS。

阶段三：顶级网络安全工程师

如果你对网络安全入门感兴趣，那么你需要的话可以点击这里👉网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

学习资料分享

当然，只给予计划不给予学习资料的行为无异于耍流氓，这里给大家整理了一份【282G】的网络安全工程师从入门到精通的学习资料包，可点击下方二维码链接领取哦。

" />## 网络安全工程师(白帽子)企业级学习路线

第一阶段：安全基础（入门）

第二阶段：Web渗透（初级网安工程师）

第三阶段：进阶部分（中级网络安全工程师）

如果你对网络安全入门感兴趣，那么你需要的话可以点击这里👉网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

学习资源分享