问:大模型备案范围
答:利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务,适用本办法。
未向境内公众提供生成式人工智能服务的,不适用本办法的规定。
ps:生成式人工智能服务提供者,是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口(api)等方式提供生成式人工智能服务)的组织、个人。
问:调用第三方api的项目是否需要备案
答:直接调用第三方已备案大模型的api、未新增语料进行二次训练的大模型产品,有些地区是不用进行大模型备案的,但需要经过省网信的同意可上线,但算法备案还是要做的。还有些地区大模型是走快速备案通道,不用提供太多资料,难度相较会低很多。
问:小模型是否要进行大模型备案
答:先通过线下跟网信介绍模型情况,因为有些模型不涉及舆论属性及社会动员能力,这种是不用备案的,具体看介绍完省网信给的答复是什么,需要备案的按照给的备案表进行填报。
问:什么时间点申请备案
答:可提供测试环境,内测基本完毕。能初步达到《生成式人工智能服务安全基本要求》内容要求。
问:大模型备案需要准备哪些材料
答:《附件1:安全自评估报告》
《附件2:模型服务协议》
《附件3:语料标注规则》
《附件4:关键词拦截列表》
《附件5:评估测试题集》
问:备案难点在哪
答:模型评测,检测部门会有多种手段及语料进行内容安全评测,重点评测的是模型的意识形态问题。就是会通过各种漏洞的方式去测试你的模型输出的内容会不会存在风险。
问:大模型备案流程
答:(1)报请属地网信办,拿到备案表;
(2)企业根据表格及评估要点准备填写材料;
(3)企业内部展开评估,编写相关材料,准备测试账号;
(4)材料附件及测试账号提交属地网信办审核;
(5)属地网信办材料审核及技术测试审核通过后,属地上报中央网信办;未通过,修改材料或调整模型能力后再次提审,具体调整哪方面根据属地网信反馈进行;
(6)中央网信办进行材料复审及技术评审,通过,企业下发备案号;未通过,需重新进行上线备案。