黑客如何在攻击中使用生成式人工智能以及我们能做些什么？

生成式人工智能 (AI) 最近备受关注。AI 驱动的聊天机器人 ChatGPT 和 VALL-E 等其他支持自然语言处理的系统已将生成 AI 带给了公众，并释放了它的好处和坏处。

关于生成式 AI 的核心担忧之一是它可用于升级恶意攻击并提出更复杂的网络攻击。

那么，黑客如何在攻击中使用生成式人工智能，这对网络安全的未来意味着什么？

什么是生成式人工智能及其工作原理？

关注公众号网络研究观阅读了解更多，每日更新。

顾名思义，生成式 AI 是一种能够生成新内容（图像、文本、音频和合成数据）的 AI。

一个著名的例子是 ChatGPT，这是一个人工智能聊天机器人，你可以用它进行类似人类的对话并获得一些极好的电影推荐，如果你想不出更有意义的任务来发送 ChatGPT。

让我们给您一两个想法，您可以让 ChatGPT 为您编写所有那些困难的电子邮件，将ChatGPT 用作翻译工具，甚至将 ChatGPT 变成您的健康膳食计划助手。

总而言之，在几秒钟内，这个聊天机器人可以提出看似新的、令人信服的内容，并以政治上非常正确的方式呈现。

然而，生成式 AI 还不能像人类那样具有创造力。这是因为它利用无监督和半监督机器学习算法来处理大量数据并生成自定义输出。

例如，如果你想委托 DALL-E 2 等生成式 AI 创作一幅类似毕加索的画作，你必须在指定字段中输入你的描述，比如“毕加索的格尔尼卡，但有小猫”然后坚持下去几秒钟。

在那段时间里，AI 将应用它之前学到的艺术家风格的所有具体特征，适当添加小猫，并想出一些原创的东西，我们得到了你可以在上面稍微看到的那张照片。

黑客如何在攻击中利用生成式人工智能？

坏人总是被好的算法所吸引。因此，他们利用生成式 AI 来加强攻击也就不足为奇了。

通过利用强化学习和生成对抗网络等 ML 方法，网络犯罪分子可以提出新的、更复杂的网络攻击，从而突破标准的网络防御。

这种变态的一个例子是 OpenAI 的“尖端”聊天机器人，因为ChatGPT 被网络犯罪分子用来编写恶意软件。

一开始，ChatGPT 似乎充满乐趣和游戏，但现在它被暴露为主要的安全和隐私威胁之一。

如果您喜欢使用 ChatGPT 聊天，请注意网络犯罪分子可以使用 ChatGPT 做些什么。

简而言之，ChatGPT 和其他生成式 AI 工具让网络犯罪分子的日子更轻松，也让安全团队更难过。

网络威胁参与者在攻击中利用人工智能的一些方式包括：

• 构建更好、更复杂的恶意软件：在黑客手中，生成 AI 可用于生成难以检测的恶意软件变种并执行攻击。结合 AI 模型，恶意软件可以掩盖其意图，直到实现其恶意目的。

• 编写由 AI 驱动的个性化网络钓鱼电子邮件：在生成 AI 的帮助下，网络钓鱼电子邮件不再具有诈骗的明显迹象，例如拼写错误、语法错误和缺乏上下文。此外，借助像 ChatGPT 这样的 AI，威胁行为者可以以前所未有的速度和规模发起网络钓鱼攻击。

• 生成深度伪造数据：由于它可以对人类活动（如写作、演讲和图像）进行令人信服的模仿，因此生成人工智能可用于身份盗用、金融欺诈和虚假信息等欺诈活动。

• 破解验证码和密码猜测：站点和网络使用它来清除寻求未经授权访问的机器人，现在黑客可以绕过验证码。通过使用 ML，他们还可以完成其他重复性任务，例如密码猜测和暴力攻击。

• 在网络威胁检测中破坏机器学习：如果安全系统被太多误报淹没，黑客可能会发起真正的网络攻击，措手不及。

我们如何应对生成式 AI 威胁？

随着网络攻击变得越来越复杂，其后果也越来越严重，传统的安全系统将成为过去时代的东西。

人工智能能够从先前的攻击中学习并进行调整，对于网络犯罪分子及其对手来说都是无价的资产。

在网络安全中使用人工智能具有一些重要优势，例如更快的威胁检测、威胁识别和威胁响应。

因此，以牙还牙似乎是正确的答案。

在网络犯罪分子学会如何对世界各地的个人和公司造成毁灭性打击之前，网络安全专业人员必须教会他们的人工智能系统保护自己免受这些攻击。

然而，这并不完全取决于人工智能。

毕竟，我们还可以通过多因素身份验证 (MFA)、生物识别技术、使用密码管理器、使用最好的加密协作工具以及一个好的、旧的等久经考验的方法来加强我们自己的安全和隐私与常识。

用人工智能对抗人工智能

那么，我们会在不久的将来见证 AI 网络安全战争吗？

好吧，我们希望不会。

然而，随着 AI 的不断进步，并且所有人（网络犯罪分子和网络安全专业人员等）都可以使用它，AI 和 ML 的作用将在未来几年变得更大。