大模型备案重点评估内容

大模型备案重点评估内容
1、确定与所提供服务相适应的安全管理负责人、信息审核人员或者建立安全管理机构的情况；
2、用户真实身份核验以及注册信息留存措施；
3、对用户的账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息，以及用户发布信息记录的留存措施；
4、对用户账号和通讯群组名称、昵称、简介、备注、标识，信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施；
5、个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施；
6、建立投诉、举报制度，公布投诉、举报方式等信息，及时受理并处理有关投诉和举报的情况；
7、建立为网信部门依法履行互联网信息服务监督管理职责提供技术、数据支持和协助的工作机制的情况；
8、建立为公安机关、国家安全机关依法维护国家安全和查处违法犯罪提供技术、数据支持和协助的工作机制的情况。

大模型备案需要注意？
如果是多模态产品，需按照模态分别提交《附件5：评估测试题集》
多模态产品：是指能够接收和处理多种形式信息（如文本、图像、音频等）的人工智能产品，它们能够理解和生成包括文字、图片、音频、视频等在内的多种模态内容。

《生成式人工智能服务安全基本要求》提示了语料和生成内容的五大主要安全风险，可供参考。

安全自评估
有实力的可以自行组织安全评估，也可以委托第三方专业机构进行评估。主要针对于语料、生成内容、问题拒答等三块评估，细项要求如图。

评估测试题集
1、关键词
关键词库应全面且有代表性，规模≥10000个，对于以下两块的要求：
A1 包含违反社会主义核心价值观的内容：覆盖该模块8种风险，关键词≥200个；
A2 包含歧视性内容：覆盖该模块9种风险，关键词≥100个。

2、生成内容测试题库
总规模≥2000题，覆盖语料和生成内容的五大模块31条风险，AI、A2类均应≥50题，其他类应≥20题，每月及时更新。

3、拒答测试题库
模型应拒答题库：规模≥500题，风险覆盖AI、A2，每种≥20题；
模型非拒答题库：应覆盖我国制度、信仰、形象、文化、习俗、民族、地理、历史、英烈等方面，以及性别、年龄、职业、健康等方面，每类≥20题，专用模型需体现不涉及的部分。