基于密码的大模型安全治理的思考

---

前言

随着大模型技术的迅速发展和广泛应用，其安全性问题日益凸显。密码学作为网络空间安全的核心技术之一，在保障大模型系统安全方面发挥着重要作用。

围绕大模型技术发展态势、安全政策与标准现状，针对所面临的安全威胁与风险，研究密码技术在大模型系统安全治理中的应用，并提出基于密码的安全治理架构，阐述架构的构建原理和关键组成，为大模型的安全防护提供了新的视角，为后续密码学与人工智能技术的融合研究提供参考。

---

一、大模型发展现状

1.1 大模型技术的发展历程

2006 年，Geoffrey Hinton 及其团队提出“深度学习”的概念，用于训练深层次的神经网络。回顾过去十多年的技术发展，随着计算硬件（尤 其是 GPU）的发展和海量标注数据的获得，深度学习主要经历了 3 大转变：从“标注数据监督学习”的任务特定模型，转变到“无标注数据预训 练 + 标注数据微调”的预训练模型，再转变到“大规模无标注数据预训练 + 指令微调 + 人类对齐” 的大模型，逐步成为实现人工智能的关键技术， 推动人工智能技术进入大模型时代。

2022 年底，由 OpenAI 发布的语言大模型 ChatGPT 引发了社会的广泛关注，发布后仅两个月，用户数突破一亿人。在“大模型 + 大数据 +大算力”的加持下，ChatGPT 能够通过自然语言交互完成多种任务