关于ChatGPT 4的八个网络安全预测

上周ChatGPT-4的发布震惊了全球，同时也引发了网络安全行业的“地震”。一方面，黑客开发和部署恶意软件、勒索软件比以往任何时候都容易。另一方面，网络安全业界也将产生一系列新的基于人工智能技术的防御用例。

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

人工智能技术的“奇点爆炸”对数据安全和网络安全意味着什么？最近一些世界顶级网络安全分析师给出了八个预测，内容如下：

1. ChatGPT将降低网络犯罪的准入门槛。
2. 制作以假乱真的网络钓鱼电子邮件将变得更加容易。
3. 企业将需要具备人工智能知识的安全专业人员。
4. 企业将需要验证生成式AI内容输出。
5. 生成式人工智能将扩大现有威胁的规模。
6. 企业需要制订人工智能安全规则。
7. 人工智能将增强人为因素。
8. 原有威胁不会改变。

1.ChatGPT将降低网络犯罪的门槛

ChatGPT降低了网络犯罪的进入门槛，使传统上需要高技能人才和大量资金的技术如今任何能够上网的人都可以使用。技能较低的攻击者（脚本小子）现在有办法批量生成恶意代码。

不法分子可以冒充营销团队要求ChatGPT编写代码，向数百人生成短信和邮件，但这些“营销内容”中包含恶意链接。代码本身也许不是恶意的，但可用于传递危险内容。

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

与任何新兴技术或应用一样，各有利弊。好人坏人都会使用ChatGPT，网络安全社区必须对人工智能技术的利用方式保持警惕。

——Steve Grobman，McAfee高级副总裁兼首席技术官

2.制作以假乱真的网络钓鱼电子邮件将变得更加容易

生成式人工智能是一种工具，可以用于好的或邪恶的目的。已经出现了许多危险的用例，例如黑客和好奇的研究人员制作出以假乱真的网络钓鱼电子邮件，生成基线恶意代码和脚本以发起潜在攻击，或者只是用来更快更好地查询情报。

——贾斯汀·格雷斯（Justin Greis），麦肯锡公司合伙人

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

3.企业需要具备人工智能知识的安全专业人员

ChatGPT已经风靡全球，但对网络安全领域的影响仍处于起步阶段。它标志着攻防两端采用AI/ML的新时代的开始，与其说是因为ChatGPT可以做什么，不如说是ChatGPT使AI/ML成为公众关注的焦点。

一方面，ChatGPT有可能被用来使社会工程民主化，为没有经验的威胁行为者提供新发现的能力，以快速轻松地生成诈骗剧本，大规模部署复杂的网络钓鱼攻击。

另一方面，在开发创新的攻击或防御技术时，ChatGPT的能力要差得多。这不是ChatGPT的问题，因为它（目前）缺乏这方面的训练。

网络安全业界更深入的话题其实不是ChatGPT，而是我们今天是否有具备人工智能知识的网络安全专业人员，了解如何开发，使用和解释AI/ML技术。

——David Hoelzer，SANS研究所研究员

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

4.企业将需要验证生成式AI输出的内容

如果安全人员不验证其输出内容，ChatGPT可能导致比它解决的问题更多的问题。例如，它将不可避免地错过漏洞，并给公司一种虚假的安全感。

同样，ChatGPT也会错过需要检测的网络钓鱼攻击，甚至提供不正确或过时的威胁情报。

因此，当我们越来越依赖ChatGPT，就越容易发生ChatGPT漏掉攻击和漏洞的事件，这会导致使用ChatGPT的企业发生数据泄露。

——Avivah Litan，Gartner分析师

5.生成式AI将升级现有威胁

像许多新技术一样，我认为ChatGPT不会引入新的威胁，我认为它将对安全环境产生的最大影响是升级、加速和增强现有威胁，特别是网络钓鱼。ChatGPT可以为攻击者提供语法正确的网络钓鱼电子邮件。

虽然ChatGPT仍然是一种离线服务，但攻击者结合互联网接入、自动化和人工智能来开发持续高级攻击只是时间问题。

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

网络钓鱼仍然是网络安全漏洞的主要原因之一。自然语言机器人使用分布鱼叉式网络钓鱼工具同时对数百名用户进行大规模钓鱼将使安全团队疲于应付。

——Rob Hughes，RSA首席信息安全官

6.企业需要制订人工智能安全规则

“随着越来越多的企业开始探索ChatGPT的用例，安全性将成为首要考虑因素。以下是2023年企业需要未雨绸缪的一些措施：

1. 设定如何在企业环境中使用ChatGPT和其他类似解决方案的规则。制定可接受的使用政策;定义员工可以使用的人工智能产品、用例和数据的“白名单”列表;并要求设立检查流程来验证人工智能生成内容的准确性。
2. 建立内部流程，以审查与认知自动化解决方案使用相关的法规影响和演变，特别是对知识产权，个人数据以及包容性和多样性的管理。
3. 实施技术网络控制，特别要注意测试代码的运营弹性和扫描恶意负载。其他控制包括但不限于：多因素身份验证和仅允许授权用户访问、部署数据丢失防护解决方案、确保工具生成的所有代码都经过标准审查并且不能直接复制到生产环境流程、配置Web过滤规则，在员工访问未经批准的人工智能解决方案时报警。

——Matt Miller，毕马威网络安全服务负责人

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

7.人工智能将放大人为因素

与大多数新技术一样，ChatGPT将成为攻防两端的资源，对手用它来侦察，而防御者用它来查找最佳实践和威胁情报。

虽然攻防两端的用例都在快速增长，但对于防御者而言，ChatGPT对于团队成员之间共享威胁情报以进行威胁搜寻，更新规则和防御模型很有帮助。总之，ChatGPT是人工智能增强和辅助技术，而不是取代威胁调查人员。

——Doug Cahill，ESG高级副总裁兼高级分析师

8.原有威胁不会改变

虽然ChatGPT是一个强大的语言生成模型，但这项技术不是一个独立的工具，不能独立运行。它依赖于用户输入，并受到训练数据的限制。

例如，模型生成的网络钓鱼文本仍然需要从电子邮件帐户发送并指向网站。这些都是可以用于分析和检测的传统指标。

尽管ChatGPT有能力编写漏洞和有效载荷，但测试表明并没有宣传得那样好。

ChatGPT并非专门针对（利用）漏洞设计的，ChatGPT对原有网络威胁的改变仍然有限，很容易用基于行为的安全工具检测ChatGPT生成的恶意软件。

——Candid Wuest，Acronis全球研究副总裁

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

题外话

初入计算机行业的人或者大学计算机相关专业毕业生，很多因缺少实战经验，就业处处碰壁。下面我们来看两组数据：

2023届全国高校毕业生预计达到1158万人，就业形势严峻；

国家网络安全宣传周公布的数据显示，到2027年我国网络安全人员缺口将达327万。

一方面是每年应届毕业生就业形势严峻，一方面是网络安全人才百万缺口。

6月9日，麦可思研究2023年版就业蓝皮书（包括《2023年中国本科生就业报告》《2023年中国高职生就业报告》）正式发布。

2022届大学毕业生月收入较高的前10个专业

本科计算机类、高职自动化类专业月收入较高。2022届本科计算机类、高职自动化类专业月收入分别为6863元、5339元。其中，本科计算机类专业起薪与2021届基本持平，高职自动化类月收入增长明显，2022届反超铁道运输类专业（5295元）排在第一位。

具体看专业，2022届本科月收入较高的专业是信息安全（7579元）。对比2018届，电子科学与技术、自动化等与人工智能相关的本科专业表现不俗，较五年前起薪涨幅均达到了19%。数据科学与大数据技术虽是近年新增专业但表现亮眼，已跻身2022届本科毕业生毕业半年后月收入较高专业前三。五年前唯一进入本科高薪榜前10的人文社科类专业——法语已退出前10之列。

“没有网络安全就没有国家安全”。当前，网络安全已被提升到国家战略的高度，成为影响国家安全、社会稳定至关重要的因素之一。

网络安全行业特点

1、就业薪资非常高，涨薪快 2021年猎聘网发布网络安全行业就业薪资行业最高人均33.77万！

2、人才缺口大，就业机会多

2019年9月18日《中华人民共和国中央人民政府》官方网站发表：我国网络空间安全人才 需求140万人，而全国各大学校每年培养的人员不到1.5W人。猎聘网《2021年上半年网络安全报告》预测2027年网安人才需求300W，现在从事网络安全行业的从业人员只有10W人。

行业发展空间大，岗位非常多

网络安全行业产业以来，随即新增加了几十个网络安全行业岗位︰网络安全专家、网络安全分析师、安全咨询师、网络安全工程师、安全架构师、安全运维工程师、渗透工程师、信息安全管理员、数据安全工程师、网络安全运营工程师、网络安全应急响应工程师、数据鉴定师、网络安全产品经理、网络安全服务工程师、网络安全培训师、网络安全审计员、威胁情报分析工程师、灾难恢复专业人员、实战攻防专业人员…

职业增值潜力大

网络安全专业具有很强的技术特性，尤其是掌握工作中的核心网络架构、安全技术，在职业发展上具有不可替代的竞争优势。

随着个人能力的不断提升，所从事工作的职业价值也会随着自身经验的丰富以及项目运作的成熟，升值空间一路看涨，这也是为什么受大家欢迎的主要原因。

从某种程度来讲，在网络安全领域，跟医生职业一样，越老越吃香，因为技术愈加成熟，自然工作会受到重视，升职加薪则是水到渠成之事。

黑客&网络安全该如何学习

今天只要你给我的文章点赞，我私藏的网安学习资料一样免费共享给你们，来看看有哪些东西。

1.学习路线图

攻击和防守要学的东西也不少，具体要学的东西我都写在了上面的路线图，如果你能学完它们，你去就业和接私活完全没有问题。

2.视频教程

网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己录的网安视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

内容涵盖了网络安全法学习、网络安全运营等保测评、渗透测试基础、漏洞详解、计算机基础知识等，都是网络安全入门必知必会的学习内容。

（都打包成一块的了，不能一一展开，总共300多集）

因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

需要的小伙伴也可以扫描下方CSDN官方合作二维码免费领取哦，无偿分享！！！

3.技术文档和电子书

技术文档也是我自己整理的，包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点，电子书也有200多本，由于内容的敏感性，我就不一一展示了。

因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

需要的小伙伴也可以扫描下方CSDN官方合作二维码免费领取哦，无偿分享！！！

4.工具包、面试题和源码

“工欲善其事必先利其器”我为大家总结出了最受欢迎的几十款款黑客工具。涉及范围主要集中在 信息收集、Android黑客工具、自动化工具、网络钓鱼等，感兴趣的同学不容错过。

还有我视频里讲的案例源码和对应的工具包，需要的话也可以拿走。

因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！

需要的小伙伴也可以扫描下方CSDN官方合作二维码免费领取哦，无偿分享！！！

最后就是我这几年整理的网安方面的面试题，如果你是要找网安方面的工作，它们绝对能帮你大忙。

这些题目都是大家在面试深信服、奇安信、腾讯或者其它大厂面试时经常遇到的，如果大家有好的题目或者好的见解欢迎分享。

参考解析：深信服官网、奇安信官网、Freebuf、csdn等

内容特点：条理清晰，含图像化表示更加易懂。

内容概要：包括 内网、操作系统、协议、渗透测试、安服、漏洞、注入、XSS、CSRF、SSRF、文件上传、文件下载、文件包含、XXE、逻辑漏洞、工具、SQLmap、NMAP、BP、MSF…

因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取

网络安全重磅福利：入门&进阶全套282G学习资源包免费分享！
如果你对网络安全入门感兴趣，

①网络安全学习路线
②上百份渗透测试电子书
③安全攻防357页笔记
④50份安全攻防面试指南
⑤安全红队渗透工具包
⑥HW护网行动经验总结
⑦100个漏洞实战案例
⑧安全大厂内部视频资源
⑨历年CTF夺旗赛题解析

需要的小伙伴也可以扫描下方CSDN官方合作二维码免费领取哦，无偿分享！！！