ENISA AI威胁态势报告揭示了主要的网络安全挑战

本报告在人工智能网络安全特设工作组的支持下实现的AI网络安全生态系统及其威胁态势的主动映射，并为保护整个欧洲的AI生态系统设定了基线。

 

2020年12月15日，欧盟网络安全局（ENISA）发布了《AI威胁态势报告》，揭露了AI生态系统面临的主要网络安全挑战，研究绘制了AI的关键参与者和威胁。该报告遵循了欧盟委员会2020年AI白皮书中定义的优先事项。

 

ENISA人工智能网络安全特设工作组的成员为这份报告的起草提供了投入和支持，他们分别来自欧盟机构、学术界和工业界，成员包括欧盟委员会总局通信网络，内容和技术（DG CONNECT），欧盟委员会总联合研究委员会（DG JRC），欧洲刑警组织，欧洲防卫局（EDA）和欧盟机构大规模IT系统的运营管理领域的自由、安全和司法领域（eu-LISA），欧洲电信标准协会（ETSI）以及学者和行业专家。 

 

欧盟网络安全局执行总监Juhan Lepassaar表示：“网络安全是人工智能可信赖解决方案的基础之一。对AI网络安全威胁的共识将是欧洲广泛部署和接受AI系统和应用程序的关键。”

 

ENISA的这项新工作旨在为保护AI的举措奠定基础：无论是在政策方面(它界定了问题并就网络安全威胁提供指导)，还是在技术控制方面(它强调了可能需要采取行动的特定威胁)。该报告针对制定安全AI部署的未来指南的决策者，支持定制风险评估的技术专家以及支持即将发布的AI安全标准的标准化机构。

 

AI的优点显而易见，但也有一些问题，如潜在的新的操纵途径和攻击方法。尤其值得关注的是该技术在供应链上采取了许多步骤，需要大量数据才能有效运作。《AI威胁态势报告》强调了网络安全和数据保护在人工智能生态系统各个部分的重要性，希望为最终用户创造值得信赖的技术。该报告的主要内容包括：

 

通过遵循生命周期方法，在网络安全范围内定义AI的范围。通过考虑AI生命周期的不同阶段——从需求分析到部署，来定义AI系统和应用程序的生态系统。

 

识别AI生态系统的资产，是确定AI生态系统安全方面需要保护的内容和可能出错的地方的一个基本步骤。

 

通过详细的分类来映射AI威胁态势。这可以作为识别特定用例的潜在漏洞和攻击场景的基线。

 

威胁的分类和相关威胁参与者的名单（列表）。文中还强调了威胁对不同安全属性的影响。

 

ENISA AI威胁态势不仅为即将到来的网络安全政策计划和技术准则奠定了基础，也强调了相关挑战，一个特别重要的领域是与AI相关的供应链。欧盟安全AI生态系统应将网络安全和数据保护放在首位，以减轻已确定的威胁。

 

ENISA计划在2021年继续与欧盟委员会和欧盟机构就AI网络安全和监管举措进行公开对话。此外，该机构将针对已发现的威胁提出缓解控制措施，并发布相关准则。（本文出自SCA安全通信联盟，转载请注明出处。）