由18个国家支持的AI安全指南发布

安全设计取决于所有相关人员 - 系统所有者、开发人员和用户 - 意识到AI系统面临的独特安全风险，并被教导如何避免这些风险。

英国国家网络安全中心(NCSC)发布了新的指导方针，可以帮助AI系统的开发者和提供商“建立按预期运行的AI系统，在需要时可用，并且在不向未经授权的各方泄露敏感数据的情况下工作。”

如何将网络安全置于AI系统的核心

安全AI系统开发指南涵盖了ML应用程序开发生命周期的四个关键阶段。

安全设计取决于所有相关人员 - 系统所有者、开发人员和用户 - 意识到AI系统面临的独特安全风险，并被教导如何避免这些风险。

指导方针指出：“对系统的威胁进行建模，并从安全、功能和性能的角度设计系统。”此外，开发人员在选择他们的AI模型时应该考虑安全好处和权衡(越复杂并不总是更好)。

安全发展的前提是确保供应链安全;保护资产(模型、数据、提示、软件、日志等);记录模型、数据集和元或系统提示;以及管理技术债务。

安全部署需要安全的基础设施(在系统生命周期的每个部分)，并持续保护模式和数据不受直接和间接访问。为了应对(不可避免的)安全事件，必须制定全面的事件响应、升级和补救计划。

AI应该负责任地发布，即只有在其安全性经过彻底评估(并且用户已经评估了限