安全设计取决于所有相关人员 - 系统所有者、开发人员和用户 - 意识到AI系统面临的独特安全风险,并被教导如何避免这些风险。
英国国家网络安全中心(NCSC)发布了新的指导方针,可以帮助AI系统的开发者和提供商“建立按预期运行的AI系统,在需要时可用,并且在不向未经授权的各方泄露敏感数据的情况下工作。”
如何将网络安全置于AI系统的核心
安全AI系统开发指南涵盖了ML应用程序开发生命周期的四个关键阶段。
安全设计取决于所有相关人员 - 系统所有者、开发人员和用户 - 意识到AI系统面临的独特安全风险,并被教导如何避免这些风险。
指导方针指出:“对系统的威胁进行建模,并从安全、功能和性能的角度设计系统。”此外,开发人员在选择他们的AI模型时应该考虑安全好处和权衡(越复杂并不总是更好)。
安全发展的前提是确保供应链安全;保护资产(模型、数据、提示、软件、日志等);记录模型、数据集和元或系统提示;以及管理技术债务。
安全部署需要安全的基础设施(在系统生命周期的每个部分),并持续保护模式和数据不受直接和间接访问。为了应对(不可避免的)安全事件,必须制定全面的事件响应、升级和补救计划。
AI应该负责任地发布,即只有在其安全性经过彻底评估(并且用户已经评估了限