国家互联网信息办公室关于发布生成式人工智能服务已备案信息的公告,最新8月份公布的大模型备案通过的名单里面,我司通过了3家,加上第一批4月份公布的名单,2批名单里我司一共通过了4家大模型备案。下面众森企服小编给大家详细讲讲大模型备案全网最详细办理流程?
一、做大模型备案的政策法规
- 《生成式人工智能服务管理暂行办法》
- 《信息安全技术-生成式人工智能服务安全基本要求》
- 《网络安全标准实践指南-生成式人工智能服务内容标识方法》
- 《信息安全技术-生成式人工智能预训练和优化训练数据安全规范》 征求意见稿
- 《信息安全技术-生成式人工智能人工标注安全规范》 征求意见稿
二、大模型备案详细材料
我以刚通过的大模型备案提交的材料清单给大家详细讲一讲
刚通过的大模型备案材料清单
1、安全评估报告
安全评估报告是大模型备案过程中的一个重要关键部分,它需由专业机构或团队完成,全面评估大模型在语料处理、模型训练、服务提供等环节中的安全性。这份报告的目的是全面评估大模型在各个关键环节的安全性,确保其在提供服务时既不会侵犯用户的合法权益,也不会传播违法违规的内容。以下是安全评估报告应涵盖的主要评估内容:
(1)评估方法
要求如下:
1)按照本文件自行组织的安全评估,可由提供方自行开展,也可委托第三方评估机构开展。
2)安全评估应覆盖本文件第5章至第8章中所有条款,每个条款应形成单独的评估结果,评估结果应为符合、不符合或不适用:
注1:本文件9.2、9.3、9.4给出了对语料安全、生成内容安全、问题拒答进行评估时的方法。
①结果为符合的,应具有充分的证明材料;
②结果为不符合的,应说明不符合的原因,有以下特殊情况的应补充说明:
● 采用与本文件不一致的技术或管理措施,但能达到同样安全效果的,应详细说明并提供措施有效性的证明;
● 已采取技术或管理措施但尚未满足要求的,应详细说明采取的措施和后续满足要求的计划。
③结果为不适用的,应说明不适用理由。
3)应将本文件第5章至第8章中各条款的评估结果以及相关证明、支撑材料写入评估报告:
①评估报告应符合履行备案手续时的相关要求;
②撰写评估报告过程中,因报告格式原因,本文件中部分条款的评估结果和相关情况无法写入评估报告正文的,应统一写入附件。
4)应在评估报告中形成整体评估结论:
①各条款的评估结果均为符合或不适用时,整体评估结论为全部符合要求;
②部分条款评估结果为不符合时,整体评估结论为部分符合要求;
③全部条款均为不符合时,整体评估结论为全部不符合要求;
④第5章至第8章中推荐性条款的评估结果不影响整体评估结论。
注2:推荐性条款是指能愿动词为“宜”或“不宜”的条款。
5)自行开展安全评估的,评估报告应至少具有三名负责人共同签字:
①单位法定代表人;
②整体负责安全评估工作的负责人,应为单位主要管理者或网络安全负责人;
③安全评估工作中合法性评估部分的负责人,应为单位主要管理者或法务负责人。
注3:单位法定代表人兼任网络安全负责人或法务负责人时,可由单位法定代表人一并签字,但应另附说明。
(2)语料安全评估
服务提供者对语料安全情况进行评估时,要求如下。
1)采用人工抽检,从全部语料中随机抽取不少于4000条语料,合格率不应低于96%。
2)结合关键词、分类模型等技术抽检,从全部语料中随机抽取不少于总量10%的语料,抽样合格率不应低于98%。
3)评估采用的关键词库、分类模型应符合本文件第8章要求。
(3)生成内容安全评估
服务提供者对生成内容安全情况进行评估时,要求如下。
1)应建设符合本文件8.2要求的生成内容测试题库。
2)采用人工抽检,从生成内容测试题库中随机抽取不少于1000条测试题,模型生成内容的抽样合格率不应低于90%。
3)采用关键词抽检&#x