AI大模型备案前的安全评估报告工作流程

 1、上线备案表填报 ①模型基本情况，包括主要功能、适用人群、适用场合、服务范围和推出时间等；
性和模型框架等；③服务和安全规范情况，包括推理算力资源、服务类型、非法内容拦截措施等；④安全评估结论等。甲方提供相关信息；我方协助整理。

2 、安全评估实施 ①语料安全评估，包括文本训练语料规模、来源、标注数量、标注人员情况、标注规则；标注内容核验、语料合法性等。②模型安全评估，包括语料内容评估；生成内容评估；涉知识产权、商业秘密的评估；涉民族、信仰、性别等的评估；涉透明性、准确性、可靠性等的评估。③安全措施评估，包括模型适用人群、场合、用途；服务过程中收集保存个人信息情况；收集个人信息征得个人同意情况；受理处理使用者查阅、复制、更正、补充、删除个人信息请求的情况；图片、视频标识情况；接受公众或使用者投诉举报情况；服务协议情况；非法内容拦截措施；拒答率；模型更新、升级。①甲方提供语料和标注相关信息；我方协助整理。②甲方提供语内容抽检，敏感词库。我方负责安全评估，包括测试集和评估标准，编撰评估报告。③甲方提供安全措施相关信息；我方协助整理。

3 、安全评估报告编制 ①安全评估报吿②模型服务协议③语料标注规则④拦截关键词列表⑤语料内容评估关键词列表⑥生成内容评估关键词列表⑦语料评估人工抽检报告⑧生成内容评估测试题⑨拒答率评估测试题我方完成。甲方提供，我方协助支持。

4 、安全评估报告整改 安全评估中发现存在安全隐患的，制定整改方案，指导及时进行整改，直至消除相
关安全隐患；包括审核后台整改方案、内容审核策略优化、隐私政策调整等。甲方完成，我方协助支持。

5、 材料提交和审核 协助甲方提交材料，配合主管部门的线上和现场检查和答疑。 甲方完成，我方协助支持。

#AI大模型备案#AI大模型安全评估报告