算法备案与安全评估最详细流程说明

一、“深度合成算法”与“生成合成类算法”的区别

在《深度合成管理规定》发布之初，市场曾对“深度合成技术”与“生成合成类技术”的关系展开讨论。根据《深度合成管理规定》的规定，“深度合成技术，是指利用深度学习”从文意本身分析，“深度合成技术”是“生成合成类算法”的利用形态之一。

实践中，《互联网信息服务算法备案系统》显示，“生成合成类算法”与“深度合成算法”被称为一类，即“生成合成类（深度合成）算法”。因此，即使在技术层面深度合成技术与生成合成技术的或存在争议，但就算法备案实操而言，企业履行算法备案关系以及被要求提供的备案信息并不因生成合成类算法与深度合成算法的区别而有所区别。

二、算法备案介绍

1、备案主体

与《算法推荐管理规定》所监管的其他几类算法不同，深度合成算法是唯一一个在备案阶段需要区分备案主体身份的算法。其备案角色包括服务提供者和技术支持者，且两类主体对同一算法的备案任务相互独立。

对于企业而言，判断其是否应履行备案义务时，可参照以下线索：

• 如企业针对同一个架构存在三种角色，应当分别完成作为深度合成服务提供者以及深度合成服务技术支持者的备案；

• 如企业下游服务提供者，不对外提供深度合成服务技术支持，则其只需完成深度合成服务提供者的备案；

• 对于从技术供应商处采购深度合成技术并利用该技术向终端用户提供深度合成服务的企业而言，无论该深度合成技术供应商是否已完成相关备案，其也需要以深度合成服务提供者的身份履行单独的备案任务。

对于集团公司而言，同一个算法可能由集团的多个下属公司共享。这种情况下，集团公司可以选择有权控制算法的公司作为备案主体。但需要注意的是，这种情况下算法备案主体企业需要在主体信息中提交算法备案与ICP主体不一致的情况说明，例如二者之间存在关联关系等。

2、备案范围备案程序

结合《<互联网信息服务深度合成管理规定>备案填报指南》以及我们的项目实践，深度合成算法备案的流程包括三个步骤：

第一步：填报主体信息，填报完成后需等待后台工作人员审核通过方可继续填报算法信息和产品及功能信息。

第二步：填报算法信息，包括算法基础属性信息、算法详细属性信息（见下图）。

算法属性基础填内容报告

第三步：关联产品及功能信息或填报技术服务方式，第二步和第三步需一并提交审核。

深度合成服务提供者和技术支持者在算法备案过程中的差异主要在于首先要求填报内容不同，即深度合成服务提供者需填报关联产品及功能信息，而深度合成服务提供者需填报技术服务方式。具体流程参见下图：

在具体填报的过程中，根据填报内容定位，通常情况下需要一定的时间准备材料，因此我们建议企业首先根据《互联网信息服务算法备案系统》重新整理需要填报的内容，在确认填报的内容准确无误后重新进行上传至系统中，支承因系统关闭或者未保存而需重复操作。

3、备案材料

在算法备案材料中，除主体信息、算法基本信息等实时填写的基本内容外，还需单独准备以下几个附件：

（一）落实安全主体责任基本情况

在主体信息填报（第一步）中，企业需要上传《落实算法安全主体责任基本情况》表，其主要内容包括企业设置算法安全专职制度以及制定算法安全管理制度。算法安全管理制度应当至少包括完善安全自评估制度、完善安全自评估制度、完善安全事故处置制度、完善安全事件应急处置制度、科技伦理监测制度等。

（2）算法安全自评估报告

在算法信息填报（第二步）中，企业需要提交算法安全自评估报告，其主要内容包括算法情况（算法流程、数据、模型和干预策略）、服务情况、风险研判、风险情况、安全评估对比服务提供者与技术支持者的算法安全自评估模板报告，服务提供者需要提供更多关于内容生态治理、结果标识、排除谣言机制，以及用户权益保障方面的说明。

（3）拟公示内容

根据《算法推荐管理规定》第十六条，算法推荐服务提供者应以适当方式公开阐明算法推荐服务的基本原理、目的意图和主要运行机制等。在算法信息填报（第二步）中，企业即刻需要提交算法拟定公示内容，主要包括算法基本原理、算法运行机制、算法应用场景、算法目的意图，以供监管机构审核。据目前监管机构已公布了关于算法基本原理、算法运行机制等内容的公示维度，建议企业可参考行业目前的实践做法，把握公示内容的颗粒度，以确保在不泄露算法技术商业秘密的前提下履行算法的法律义务。

第三份材料是整个算法备案中的关键审核材料，其内容不仅涉及算法基本原理、算法属性等算法技术本身，还涉及算法安全管理制度、组织架构、风险措施等算法防控合体系建设情况。 ，需要建议完成算法备案的企业可提前准备相关内容，必要时，可引入丰富经验的外部律师协助企业搭建算法合规体系，确保算法备案材料的齐备性。

4、备案期限

根据《算法推荐管理规定》第二十五条，当算法材料准备齐全时，网信部门应当在三十个工作日内进行包装备案。根据我们的项目实践，在深度合成算法备案流程中，可能需要存在公司补正材料的情况因此完成复杂合成算法需要2个月以上。

三、安全评估

根据《具有调节属性或社会激励能力的互联网信息服务安全评估规定》，安全评估是所有具有调节属性或社会激励能力的信息服务上市的前置条件。

根据《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会激发能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估。

安全评估1.0

网信办发布了《具有调节属性或社会激励能力的互联网信息服务安全评估规定》。

根据该规定，互联网信息服务提供者在下列情况下应当自行开展安全评估：

（一）具有舆论属性或社会激励能力的信息服务上线，或者信息服务增设相关功能；

（二）运用新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变化，导致调解属性或者社会激励能力发生重大变化；

（三）用户规模显着增加，导致信息服务属性或者社会动员能力发生重大变化；

（四）发生违法疫情信息传播扩散，表现出安全措施难以有效防控网络安全风险的情况；

（五）地市级以上网信部门或者公安机关书面告知需要进行安全评估的其他情况。

在情况下，互联网信息服务提供者需自行进行安全评估并通过全国互联网安全管理服务平台（https://www.beian.gov.cn/portal/index.do）向上述地市级以上网信部门、公安机关提交安全评估报告。评估内容即为《具有监管属性或者动员社会能力的互联网信息服务安全评估规定》第五条所规定的内容。

此外，网信部门和公安部门有权视情况开展现场检查。一般由互联网信息服务提供者携带材料前往指定公安部门进行现场检查和作答。

安全评估2.0

目前，安全评估2.0版本的监管对象以AIGC大模型为主。安全评估2.0版本目前与1.0版本主要有以下区别：

关于安全评估的要求被替换为“提供具有调节属性社会激励能力的生成人工智能服务的，应当按照国家有关规定开展安全评估”。理解：

• “具有舆论属性或社会激励能力的生成式人工智能服务”是“具有舆论属性或社会激励能力的互联网信息服务”的子集，因此AIGC服务提供者应满足《具有舆论属性或社会激励能力的互联网信息服务》 《信息服务安全评估规定》的相关要求，包括申报1.0版本安全评估；

• “国家有关规定”并不限于《具有调解属性或社会激励能力的互联网信息服务安全评估规定》。因此，AIGC服务提供者应同时满足其他适用法规的要求。如果其他适用法规提出类似的安全评估要求，则AIGC服务提供者也应当依法履行相关评估义务。

四、补充

在AIGC产品上市的过程中，算法备案和安全评估是保障其合规性的重要环节。

算法备案和安全评估作为产品上市前的关键环节，不仅在法律法规方面上确保了AIGC产品的技术安全和输出内容安全，也是企业在境内人工智能危机守法合规经营并保持长期发展的关键因素。