摘要
随着人工智能领域大模型(large model)的广泛应用,大模型,尤其是大语言模型(large language model,LLM)的安全问题受到了广泛关注. 大模型作为一种新兴技术,与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.
本文从社会关系以及技术应用2个视角,分析了大模型安全的整体趋势. 同时,基于大模型自身的特点,梳理了大模型安全能力建设的实践思路,为大模型研发、大模型应用构建提供了安全体系构建的参考方案. 介绍的大模型安全能力实践方案包括安全评估基准建设、模型价值观对齐方法、模型线上服务安全系统建设3个部分.
内容简介
1.从人类整体发展、国家竞争以及技术应用3个视角,分析了大模型安全的整体趋势.
2.同时,本文基于大模型自身的特点,梳理了大模型安全能力建设的实践思路,从安全评估基准建设、模型价值观对齐方法、模型线上服务安全系统建设3个方面描述了模型安全能力建设所需的具体工作.<