生成式 AI 增强安全运营的 7 种用途

生成式 AI 是指使用人工智能 （AI） 技术来生成或创建新数据，例如图像、文本或声音。近年来，由于其产生现实和多样化输出的能力，它引起了极大的关注。

在安全运营方面，生成式 AI 可以发挥重要作用。它可用于检测和预防各种威胁，包括恶意软件、网络钓鱼尝试和数据泄露。通过分析大量数据中的模式和行为，它可以识别可疑活动并实时向安全团队发出警报。

以下是七个实际用例，展示了生成式 AI 的强大功能。关于如何实现目标和加强安全操作，还有更多可能性，但这份清单应该会让你的创意源源不断。

1） 信息管理#

信息安全涉及不断增长的数据范围。获取新信息是管理信息的一个挑战，但生成式人工智能可以帮助提炼这些信息。例如，有许多用于聚合数据的现有解决方案，例如新闻的 RSS 提要，但实际确定哪些信息有用，哪些信息没有用的问题仍然是一个问题。

生成式 AI 模型在生成准确和简洁的文本摘要方面显示出很有前途的能力。这些模型可以在大型安全相关信息数据集上进行训练，并学习识别关键信息、提取重要细节并生成简明摘要。

这些功能可能有用的另一项任务是通过提供现有文档（如策略文档）以组织语言创建新策略。

2） 恶意软件分析#

生成式 AI 解决方案虽然不能解决所有问题，但对于安全团队执行恶意软件分析非常有用。人工智能模型“学习”检测和识别不同类型恶意软件中的模式，这要归功于它们训练的大量标记数据。这些获得的知识使他们能够识别以前看不见的代码中的异常情况，为更有效和高效的威胁检测铺平道路。纯文本恶意软件（例如反编译的可执行文件或恶意 python 脚本）通常最适合此目的。

在某些情况下，生成式 AI 甚至能够对编码方案等常见技术进行反混淆。使生成式 AI 解决方案能够使用外部工具进行反混淆，可以大大增强其功能。当正确应用于恶意软件分析用例时，生成式 AI 可以帮助安全团队解决编码知识的不足，并快速对潜在的恶意软件进行分类。

利用外部工具自行消除混淆可显着提高其潜力。

3） 工具开发#

生成式 AI 还可以快速提高安全团队生成有用且可操作的工具的能力。生成式人工智能在解决复杂的编码任务方面显示出很大的潜力。一般来说，在良好的提示下，开发人员调试 AI 生成的代码比从头开始构建和重新创建代码要容易得多。使用功能强大、最先进的模型，甚至可能不需要调试生成的代码。

4） 风险评估#

生成式 AI 模型非常擅长模拟各种角色并坚持下去。通过应用适当的提示技术，可以将模型的焦点或行为引导到特定的偏差上。从那里，模型可以通过模拟多个角色来评估各种风险场景，从而提供不同视角的见解。通过使用多种视角，可以利用生成式人工智能来提供彻底的风险评估，并且比人类更有能力成为中立的评估者（通过角色模拟）。人们可以与对立的角色辩论模型，并确保正在评估的场景是完全红队的。

5） 桌面#

生成式 AI 可以通过多种机制用于桌面。例如，为模型提供最近发布的新闻报道中的信息，该文章涵盖了新的威胁方案，然后让它生成适合组织及其风险的方案。

生成式 AI 还可用于桌面场景中的秘书职责，例如引入各种利益相关者的日历并安排适当的会议时间来进行桌面会议。

聊天模型尤其适合桌面操作，它们可以实时处理桌面数据并提供实时输入和反馈。

6） 事件响应#

生成式 AI 是协助事件响应的绝佳工具。通过创建包含 AI 见解的工作流来分析与事件相关的有效负载，可以显著缩短事件的平均解决时间 （MTTR）。在这些场景中使用检索增强至关重要，因为可能无法训练模型来考虑所有可能的场景。当您将检索增强应用于其他外部数据源（如威胁情报）时，您将获得一个准确的自动化工作流程，并可消除幻觉。

7） 威胁情报#

使用生成式 AI 来协助和增强各种威胁情报任务是一个明显的应用。通过分析大量结构化和非结构化数据，例如入侵指标 （IOC）、恶意软件样本和恶意 URL，生成式 AI 可以创建富有洞察力的报告，总结当前威胁态势、新兴趋势和潜在漏洞。

它还可以将有关威胁参与者数据的报告与有关各种威胁参与者的 TTP 的信息相结合，从而将数据转换为可操作的情报。例如，它可以标记潜在的攻击媒介、易受攻击的系统或可以实施以缓解这些威胁的特定检测机制。

下一步#

生成式人工智能对网络安全的未来具有巨大的潜力。通过利用其处理和分析大量数据的能力，它能够改变我们检测、调查和应对网络威胁的方式。

期待你的关注，定不负所望