AI专题：2023年AI和标准化网络安全报告

今天分享的是AI系列深度研究报告：《AI专题：2023年AI和标准化网络安全报告》。

（报告出品方：enisa）

报告共计：37页

文件目的和目标

本文件的总体目标是概述与人工智能(AI)网络安全有关的标准(现有的、正在起草的、审议中的和计划中的)，评估其覆盖面，并找出标准化方面的差距。该报告旨在为制定人工智能协调规则的拟议欧盟法规(COM(2021)206 final)的实施做准备。(法律草案)就与网络安全有关的方面进行了讨论。

目标受众和先决条件

本报告的目标受众包括一些不同的利益相关者，他们关注的是人工智能的网络安全和标准化。本报告的主要对象是标准制定组织(SDO)和处理人工智能技术监管的公共部门/政府机构。报告的目标是成为一个有用的工具，使更广泛的利益攸关方了解标准在帮助解决网络安全问题方面的作用，特别是学术界和研究界：

• Al技术界、Al网络安全专家和AI专家(设计师、开发人员、机器学习(ML)专家、数据科学家等)有兴趣开发安全解决方案，并通过设计将安全和隐私纳入其解决方案。
• 使用人工智能解决方案和/或从事网络安全的企业(包括中小型企业)，包括基本服务的运营商。
• 读者应该对软件开发、机密性、完整性和可用性(CLA)安全模型以及漏洞分析和风险分析技术有一定程度的熟悉。

研究的结构

报告的结构如下:

• 分析范围的定义(第2章):介绍Al和Al的网络安全概念；
• 与网络安全相关的标准化活动清单(第3章):支持网络安全的标准化活动概述(包括特定于网络安全的和非特定于网络安全的)；
• 对覆盖范围的分析(第4章):分析第3章中确定的关于CLA安全模式和支持网络安全的可信赖特性的最相关标准的覆盖范围；
• 总结和结论(第5章):在前面章节的基础上，建议采取行动，确保标准化支持网络安全，并准备实施《网络安全法》草案。

人工智能

了解AI及其范围似乎是定义AI的网络安全的第一步。尽管如此，AI的明确定义和范围已被证明是难以捉摸的。人工智能的概念在不断发展，关于它是什么，它不是什么的争论在很大程度上仍然没有解决--部分原因是“人工智能”一词背后的营销影响。即使在科学水平上，AI的确切范围仍然是非常有争议的。在这方面，许多论坛通过/提议了AI的定义。

根据以前的ENISA的工作，认为它是人工智能技术的驱动力，该报告主要集中在ML。这种选择是进一步支持的事实，似乎有一个普遍的共识，ML技术在当前的Al应用程序占主导地位的事实。最后但并非最不重要的一点是，ML的特殊性导致了以独特方式影响AI网络安全的漏洞。值得注意的是，这份报告从生存周期的角度来考虑铝。仅标记了关于ML的考虑。

报告共计：37页