2024年最全ai安全——应试准备(2)，2024年最新面试题分享

本人从事网路安全工作12年，曾在2个大厂工作过，安全服务、售后服务、售前、攻防比赛、安全讲师、销售经理等职位都做过，对这个行业了解比较全面。

最近遍览了各种网络安全类的文章，内容参差不齐，其中不伐有大佬倾力教学，也有各种不良机构浑水摸鱼，在收到几条私信，发现大家对一套完整的系统的网络安全从学习路线到学习资料，甚至是工具有着不小的需求。

最后，我将这部分内容融会贯通成了一套282G的网络安全资料包，所有类目条理清晰，知识点层层递进，需要的小伙伴可以点击下方小卡片领取哦！下面就开始进入正题，如何从一个萌新一步一步进入网络安全行业。

学习路线图

其中最为瞩目也是最为基础的就是网络安全学习路线图，这里我给大家分享一份打磨了3个月，已经更新到4.0版本的网络安全学习路线图。

相比起繁琐的文字，还是生动的视频教程更加适合零基础的同学们学习，这里也是整理了一份与上述学习路线一一对应的网络安全视频教程。

网络安全工具箱

当然，当你入门之后，仅仅是视频教程已经不能满足你的需求了，你肯定需要学习各种工具的使用以及大量的实战项目，这里也分享一份我自己整理的网络安全入门工具以及使用教程和实战。

项目实战

最后就是项目实战，这里带来的是SRC资料&HW资料，毕竟实战是检验真理的唯一标准嘛~

面试题

归根结底，我们的最终目的都是为了就业，所以这份结合了多位朋友的亲身经验打磨的面试题合集你绝对不能错过！

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以点击这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

人工智能推动社会经济各个领域从数字化、信息化向智能化发展的同时，也面临着严重的安全性威胁。

ai安全面临的三个主要问题

一、ai模型安全

AI 模型安全是指 AI 模型面临的所有安全威胁，包括 AI 模型在训练与运行阶段遭受到来自攻击者的功能破坏威胁，以及由于 AI 模型自身鲁棒性欠缺所引起的安全威胁。

1）训练完整性威胁，攻击者通过对训练数据进行修改，对模型注入隐藏的恶意行为。训练完整性威胁破坏了 AI 模型的完整性，该威胁主要包括传统投毒攻击和后门攻击；

2）测试完整性威胁，攻击者通过对输入的测试样本进行恶意修改，从而达到欺骗 AI 模型的目的，测试完整性威胁主要为对抗样本攻击

3）鲁棒性欠缺威胁，该问题并非来自于恶意攻击，而是来源于 AI 模型结构复杂、缺乏可解释性，在面对复杂的现实场景时可能会产生不可预计的输出。

二、ai数据安全

数据安全问题是指 AI 技术所使用的训练、测试数据和模型参数数据被攻击者窃取。针对 AI 技术使用的数据，攻击者可以通过 AI 模型构建和使用过程中产生的信息在一定程度上窃取 AI 模型的数据，主要通过两种方式来进行攻击：

1）基于模型的输出结果，模型的输出结果隐含着训练/测试数据的相关属性。

2）基于模型训练产生的梯度（参数），该问题主要存在于模型的分布式训练中，多个模型训练方之间交换的模型参数的梯度也可被用于窃取训练数据。

三、ai系统安全

承载 AI 技术的应用系统主要包括 AI 技术使用的基础**物理设备和软件架构（pytorch等），**是 AI 模型中数据收集存储、执行算法、上线运行等所有功能的基础。

对抗样本攻击

研究者还发现在输入数据上添加少量精心构造的人类无法识别的**“扰动”，可以使 AI 模型输出错误的预测结果。这种添加扰动的输入数据通常被称为对抗样本（Adversarial Example）**。在许多安全相关的应用场景中，对抗样本攻击会引起严重的安全隐患。属于ai模型安全。

以自动驾驶为例，攻击者可以在路牌上粘贴对抗样本扰动图案，使得自动驾驶系统错误地将“停止”路牌识别为“限速”路牌 。这类攻击可以成功地欺骗特斯拉等自动驾驶车辆中的路标识别系统，使其作出错误的驾驶决策判断，导致严重的交通事故。

隐私泄露

研究者发现 AI 技术在使用过程中产生的计算信息可能会造成隐私数据泄露，例如攻击者可以在不接触隐私数据的情况下利用模型输出结果、模型梯度更新等信息来间接获取用户隐私数据。在实际应用中，这类信息窃取威胁会导致严重的隐私泄露。属于ai数据安全。

例如：生物核身识别模型**（如人脸识别）返回的结果向量可以被用于训练生成模型**，从而恢复如用户头像等训练数据中的敏感信息（原始输入数据）。攻击者甚至还可以通过输出结果窃取 AI 模型的参数，对模型拥有者造成严重的经济损害。在这种情况下，攻击者可能利用模型的输出来训练另一个生成模型，这个生成模型旨在从结果向量中重建或近似原始的输入数据（如用户的头像）。这种攻击通常被称为模型逆向攻击（Model Inversion Attack）。

对抗样本与对抗训练

这里详细介绍一下对抗样本相关的知识

1. 对抗样本： 对抗样本是指经过微小、精心设计的修改（通常是不可察觉的）的输入数据，旨在欺骗机器学习模型，使其做出错误的预测。这些修改通常是通过在原始输入上添加人类难以察觉的噪声来实现的。对抗样本的存在揭示了深度学习模型在某些方面的脆弱性，尤其是在图像识别等领域。
2. 对抗攻击： 对抗攻击是指利用对抗样本来攻击机器学习模型的过程。攻击者可能通过这种方法来规避或误导模型的行为，例如，在自动驾驶系统中，通过在路标上贴上对抗性贴纸，可能导致系统错误地识别路标。研究对抗攻击有助于开发更安全的机器学习系统。
3. 对抗防御： 对抗防御是指采取措施来保护机器学习模型免受对抗攻击的技术和方法。其中包括对抗训练技术。
4. 对抗训练： 对抗训练是一种提高机器学习模型鲁棒性的技术。它利用对抗攻击算法生成对抗样本对数据集进行补充，弥补模型薄弱的部分，从而增强模型面对恶意攻击时的****鲁棒性。对抗训练可以使模型在面对潜在的对抗攻击时更加稳定和可靠。

生成对抗网络（GAN）

生成器（Generator）：

• 生成器的任务是生成看起来像真实数据的新数据。
• 它通常是一个深度神经网络，输入是一个随机噪声向量（通常是从高斯分布中抽取的），输出是一个数据点（例如图像）。
• 生成器的目标是欺骗判别器，使其认为生成器产生的数据是真实的。

判别器（Discriminator）：

• 判别器的任务是区分输入数据是来自真实数据集还是生成器生成的假数据。
• 它也是一个神经网络，接收真实数据或生成数据作为输入，并输出一个概率值，表示输入数据为真实数据的可能性。
• 判别器通过最大化其能够正确分类真实数据和生成数据的能力来提高性能。

对抗过程：

• 生成器和判别器之间的对抗过程可以被看作是一个最小化最大化问题（minimax game）。
• 生成器试图最小化判别器正确分类的准确性，而判别器试图最大化其准确性。
• 通过这种对抗训练，生成器学习如何生成越来越真实的数据，而判别器学习如何更好地区分真假数据。

学习路线：

这个方向初期比较容易入门一些，掌握一些基本技术，拿起各种现成的工具就可以开黑了。不过，要想从脚本小子变成黑客大神，这个方向越往后，需要学习和掌握的东西就会越来越多以下是网络渗透需要学习的内容：

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以点击这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！