干货！大模型备案详细材料清单

最近咨询大模型备案的比较多，之前也给大家写过一篇，手把手教你如何做大模型备案，很多客户看了反响很大，对里面的备案材料还有不是很了解的，今天，众森企服小编再详细给大家讲一下大模型备案的详细材料清单。

大模型备案详细材料清单如下：

1、大模型上线备案表

这是备案申请的必备材料，需详细填写大模型的基本情况（包括：模型名称、主要功能、适用人群、服务范围等）、模型研制过程（包括：模型备案情况、训练算力资源（自研模型）、训练语料和标注语料来源与规模、语料合法性、算法模型的架构和训练框架等）、服务内容、安全防范措施（包括：推理算力资源、服务方式及对象等、非法内容拦截措施、模型更新升级信息等）、安全评估结果及自愿承诺等信息。表格内容应真实、准确，无遗漏，为后续审核提供全面依据。

2、语料标注规则

语料标注是训练大模型的基础工作，其质量直接影响模型的准确性和可靠性。因此，提交语料标注规则时，需详细介绍标注团队的资质、标注细则、标注流程等，确保语料来源合法、标注过程规范、标注结果准确。

3、拦截关键词列表

为有效过滤有害信息，企业和开发者需准备一份详尽的拦截关键词列表，覆盖政治、色情、暴力、谣言等多种安全风险。列表应至少包含10000个关键词，并定期更新以适应新的风险态势。

应至少覆盖《生成式人工智能服务安全基本要求》A.1以及A.2中17种安全风险，A.1中每一种安全风险的关键词均不宜少于200个，A.2中每一种安全风险的关键词均不宜少于100个。

4、评估测试题集

评估测试题集用于检验大模型在生成内容时的安全性能，包括生成内容的正面示例、应拒答的负面内容以及非拒答测试题库。测试题集应严格按照《生成式人工智能服务安全基本要求》编制，确保测试结果的客观性和准确性。

另外，生成内容测试题库中建议明确标记出哪些问题是需要拒答的、哪些是需要回答的。

5、安全评估报告

安全评估报告需由专业机构或团队完成，全面评估大模型在语料处理、模型训练、服务提供等环节中的安全性。评估内容应包括但不限于数据隐私保护、算法偏见识别与纠正、有害信息过滤机制、应急响应预案等，确保大模型在提供服务时不会侵犯用户权益，不传播违法违规内容。

6、模型服务协议

模型服务协议是保障用户权益的重要法律文件，需明确服务范围、双方权利义务、数据使用与保护、违约责任等条款。法务团队应仔细审阅，确保协议内容合法合规，有效保护用户和企业双方的利益。

这里，有几点要注意下：

1、材料要真实、全面：在填报材料时，请确保所提供信息的真实性和全面性。不要遗漏任何重要的细节或信息。网信办工作人员到时候要上门来检查的

2、评估报告要详尽，形成结论：在撰写评估报告时，请务必详尽地描述各项评估内容，并形成明确的结论。这将有助于审核人员更好地了解您的大模型的安全性和合规性。

3、测试题集要满足《生成式人工智能服务安全基本要求》：在准备测试题集时，请确保其能够满足《生成式人工智能服务安全基本要求》的相关标准。这将有助于提高您的测试题集的质量，从而增加审核通过的可能性。所以，要多看看相关法律法规。

部分素材整合自网络，侵删！