生成式 AI 增强安全运营的 7 种用途

本文链接：https://blog.csdn.net/xnxqwzy/article/details/138521797

生成式 AI 是指使用人工智能（AI）技术来生成或创建新数据，例如图像、文本或声音。近年来，由于其产生现实和多样化输出的能力，它引起了极大的关注。

在安全运营方面，[生成式 AI 可以发挥重要作用](https://www.reliaquest.com/blog/understanding-
generative-ai-in-cybersecurity/?utm_source=third-
party&utm_medium=email&utm_campaign=fy24q4-hackernewsarticle_automation&utm_content=hackernews
“生成式 AI
可以发挥重要作用”)。它可用于检测和预防各种威胁，包括恶意软件、网络钓鱼尝试和数据泄露。通过分析大量数据中的模式和行为，它可以识别可疑活动并实时向安全团队发出警报。

以下是七个实际用例，展示了生成式 AI 的强大功能。关于如何实现目标和加强安全操作，还有更多可能性，但这份清单应该会让你的创意源源不断。

**1）信息管理[#](https://thehackernews.com/2023/11/7-uses-for-generative-ai-

to-enhance.html#1-information-management “#”)**

信息安全涉及不断增长的数据范围。获取新信息是管理信息的一个挑战，但生成式人工智能可以帮助提炼这些信息。例如，有许多用于聚合数据的现有解决方案，例如新闻的
RSS 提要，但实际确定哪些信息有用，哪些信息没有用的问题仍然是一个问题。

生成式 AI
模型在生成准确和简洁的文本摘要方面显示出很有前途的能力。这些模型可以在大型安全相关信息数据集上进行训练，并学习识别关键信息、提取重要细节并生成简明摘要。

这些功能可能有用的另一项任务是通过提供现有文档（如策略文档）以组织语言创建新策略。

**2）恶意软件分析[#](https://thehackernews.com/2023/11/7-uses-for-generative-

ai-to-enhance.html#2-malware-analysis “#”)**

生成式 AI
解决方案虽然不能解决所有问题，但对于安全团队执行恶意软件分析非常有用。人工智能模型“学习”检测和识别不同类型恶意软件中的模式，这要归功于它们训练的大量标记数据。这些获得的知识使他们能够识别以前看不见的代码中的异常情况，为更有效和高效的威胁检测铺平道路。纯文本恶意软件（例如反编译的可执行文件或恶意
python 脚本）通常最适合此目的。

在某些情况下，生成式 AI 甚至能够对编码方案等常见技术进行反混淆。使生成式 AI
解决方案能够使用外部工具进行反混淆，可以大大增强其功能。当正确应用于恶意软件分析用例时，生成式 AI
可以帮助安全团队解决编码知识的不足，并快速对潜在的恶意软件进行分类。

利用外部工具自行消除混淆可显着提高其潜力。

**3）工具开发[#](https://thehackernews.com/2023/11/7-uses-for-generative-ai-

to-enhance.html#3-tool-development “#”)**

生成式 AI
还可以快速提高安全团队生成有用且可操作的工具的能力。生成式人工智能在解决复杂的编码任务方面显示出很大的潜力。一般来说，在良好的提示下，开发人员调试 AI
生成的代码比从头开始构建和重新创建代码要容易得多。使用功能强大、最先进的模型，甚至可能不需要调试生成的代码。

**4）风险评估[#](https://thehackernews.com/2023/11/7-uses-for-generative-ai-

to-enhance.html#4-risk-evaluation “#”)**

生成式 AI
模型非常擅长模拟各种角色并坚持下去。通过应用适当的提示技术，可以将模型的焦点或行为引导到特定的偏差上。从那里，模型可以通过模拟多个角色来评估各种风险场景，从而提供不同视角的见解。通过使用多种视角，可以利用生成式人工智能来提供彻底的风险评估，并且比人类更有能力成为中立的评估者（通过角色模拟）。人们可以与对立的角色辩论模型，并确保正在评估的场景是完全红队的。

**5）桌面[#](https://thehackernews.com/2023/11/7-uses-for-generative-ai-to-

enhance.html#5-tabletops “#”)**

生成式 AI 可以通过多种机制用于桌面。例如，为模型提供最近发布的新闻报道中的信息，该文章涵盖了新的威胁方案，然后让它生成适合组织及其风险的方案。

生成式 AI 还可用于桌面场景中的秘书职责，例如引入各种利益相关者的日历并安排适当的会议时间来进行桌面会议。

聊天模型尤其适合桌面操作，它们可以实时处理桌面数据并提供实时输入和反馈。

**6）事件响应[#](https://thehackernews.com/2023/11/7-uses-for-generative-ai-

to-enhance.html#6-incident-response “#”)**

生成式 AI 是协助事件响应的绝佳工具。通过创建包含 AI 见解的工作流来分析与事件相关的有效负载，可以显著缩短事件的平均解决时间
（MTTR）。在这些场景中使用检索增强至关重要，因为可能无法训练模型来考虑所有可能的场景。当您将检索增强应用于其他外部数据源（如威胁情报）时，您将获得一个准确的自动化工作流程，并可消除幻觉。

**7）威胁情报[#](https://thehackernews.com/2023/11/7-uses-for-generative-ai-

to-enhance.html#7-threat-intelligence “#”)**

使用生成式 AI 来协助和增强各种威胁情报任务是一个明显的应用。通过分析大量结构化和非结构化数据，例如入侵指标（IOC）、恶意软件样本和恶意
URL，生成式 AI 可以创建富有洞察力的报告，总结当前威胁态势、新兴趋势和潜在漏洞。

它还可以将有关威胁参与者数据的报告与有关各种威胁参与者的 TTP
的信息相结合，从而将数据转换为可操作的情报。例如，它可以标记潜在的攻击媒介、易受攻击的系统或可以实施以缓解这些威胁的特定检测机制。

**下一步[#](https://thehackernews.com/2023/11/7-uses-for-generative-ai-to-

enhance.html#whats-next “#”)**

生成式人工智能对网络安全的未来具有巨大的潜力。通过利用其处理和分析大量数据的能力，它能够改变我们检测、调查和应对网络威胁的方式。

期待你的关注，定不负所望

![cke_32160.png](https://img-
blog.csdnimg.cn/img_convert/1ddb1fd7168a8b14db9c372b74893f51.png)

题外话

初入计算机行业的人或者大学计算机相关专业毕业生，很多因缺少实战经验，就业处处碰壁。下面我们来看两组数据：

2023届全国高校毕业生预计达到1158万人，就业形势严峻；

国家网络安全宣传周公布的数据显示，到2027年我国网络安全人员缺口将达327万。

一方面是每年应届毕业生就业形势严峻，一方面是网络安全人才百万缺口。

6月9日，麦可思研究2023年版就业蓝皮书（包括《2023年中国本科生就业报告》《2023年中国高职生就业报告》）正式发布。

2022届大学毕业生月收入较高的前10个专业

本科计算机类、高职自动化类专业月收入较高。2022届本科计算机类、高职自动化类专业月收入分别为6863元、5339元。其中，本科计算机类专业起薪与2021届基本持平，高职自动化类月收入增长明显，2022届反超铁道运输类专业（5295元）排在第一位。

具体看专业，2022届本科月收入较高的专业是信息安全（7579元）。对比2018届，电子科学与技术、自动化等与人工智能相关的本科专业表现不俗，较五年前起薪涨幅均达到了19%。数据科学与大数据技术虽是近年新增专业但表现亮眼，已跻身2022届本科毕业生毕业半年后月收入较高专业前三。五年前唯一进入本科高薪榜前10的人文社科类专业——法语已退出前10之列。

“没有网络安全就没有国家安全”。当前，网络安全已被提升到国家战略的高度，成为影响国家安全、社会稳定至关重要的因素之一。

网络安全行业特点

1、就业薪资非常高，涨薪快 2022年猎聘网发布网络安全行业就业薪资行业最高人均33.77万！

2、人才缺口大，就业机会多

2019年9月18日《中华人民共和国中央人民政府》官方网站发表：我国网络空间安全人才需求140万人，而全国各大学校每年培养的人员不到1.5W人。猎聘网《2021年上半年网络安全报告》预测2027年网安人才需求300W，现在从事网络安全行业的从业人员只有10W人。

行业发展空间大，岗位非常多

网络安全行业产业以来，随即新增加了几十个网络安全行业岗位︰网络安全专家、网络安全分析师、安全咨询师、网络安全工程师、安全架构师、安全运维工程师、渗透工程师、信息安全管理员、数据安全工程师、网络安全运营工程师、网络安全应急响应工程师、数据鉴定师、网络安全产品经理、网络安全服务工程师、网络安全培训师、网络安全审计员、威胁情报分析工程师、灾难恢复专业人员、实战攻防专业人员…

职业增值潜力大

网络安全专业具有很强的技术特性，尤其是掌握工作中的核心网络架构、安全技术，在职业发展上具有不可替代的竞争优势。

随着个人能力的不断提升，所从事工作的职业价值也会随着自身经验的丰富以及项目运作的成熟，升值空间一路看涨，这也是为什么受大家欢迎的主要原因。

从某种程度来讲，在网络安全领域，跟医生职业一样，越老越吃香，因为技术愈加成熟，自然工作会受到重视，升职加薪则是水到渠成之事。

黑客&网络安全如何学习

今天只要你给我的文章点赞，我私藏的网安学习资料一样免费共享给你们，来看看有哪些东西。