算法备案与安全评估

一、“深度合成算法”与“生成合成类算法”的区别

在《深度合成管理规定》发布之初，市场曾对“深度合成技术”与“生成合成类技术”的关系展开讨论。根据《深度合成管理规定》的规定，“深度合成技术，是指利用深度学习”从文意本身分析，“深度合成技术”是“生成合成类算法”的利用形态之一。

根据我们对相关技术的初步调研，生成合成类技术包含深度合成技术：深度合成算法与生成合成算法利用睡眠深度学习技术（例如生成神经网络（CNN）、生成对抗网络（GAN）、变分）自编码器（VAE）等）生成、视频、音频以及其他类型的数据，两类算法渴望用于计算机视觉、图像处理、计算机学、虚拟现实、增强现实等领域。两种技术的相同点它们都可以实现和现实不一样的内容，而深度合成算法的特点是其训练时完全依赖深度学习技术，通过学习数据的特征和分布，不断调整模型参数来生成且与真实世界相似的新数据，如Deepfake，而Deepfake本身也是一种特定的生成方法。生成合成类算法则更进一步的规则，其基于一套确定的、参数或模型，生成全新的、完全原创的、一种更趋向于“真实”用更通俗的语言解释，如果深度合成技术是“换脸”，那么生成合成类技术就是“造脸”。

实践中，《互联网信息服务算法备案系统》显示，“生成合成类算法”与“深度合成算法”被称为一类，即“生成合成类（深度合成）算法”。因此，即使在技术层面深度合成技术与生成合成技术的或存在争议，但就算法备案实操而言，企业履行算法备案关系以及被要求提供的备案信息并不因生成合成类算法与深度合成算法的区别而有所区别。

二、算法备案实务介绍

1、备案主体

与《算法推荐管理规定》所监管的其他几类算法不同，深度合成算法是唯一一个在备案阶段需要区分备案主体身份的算法。其备案角色包括服务提供者和技术支持者，且两类主体对同一算法的备案任务相互独立。

对于企业而言，判断其是否应履行备案义务时，可参照以下线索：

• 如企业针对同一个架构存在三种角色，应当分别完成作为深度合成服务提供者以及深度合成服务技术支持者的备案；

• 如企业下游服务提供者，不对外提供深度合成服务技术支持，则其只需完成深度合成服务提供者的备案；

• 对于从技术供应商处采购深度合成技术并利用该技术向终端用户提供深度合成服务的企业而言，无论该深度合成技术供应商是否已完成相关备案，其也需要以深度合成服务提供者的身份履行单独的备案任务。

对于集团公司而言，同一个算法可能由集团的多个下属公司共享。这种情况下，集团公司可以选择有权控制算法的公司作为备案主体。但需要注意的是，这种情况下算法备案主体企业需要在主体信息中提交算法备案与ICP主体不一致的情况说明，例如二者之间存在关联关系等。

2、备案范围备案程序

结合《<互联网信息服务深度合成管理规定>备案填报指南》以及我们的项目实践，深度合成算法备案的流程包括三个步骤：

第一步：填报主体信息，填报完成后需等待后台工作人员审核通过方可继续填报算法信息和产品及功能信息。

第二步：填报算法信息，包括算法基础属性信息、算法详细属性信息（见下图）。

算法属性基础填内容报告

第三步：关联产品及功能信息或填报技术服务方式，第二步和第三步需一并提交审核。

深度合成服务提供者和技术支持者在算法备案过程中的差异主要在于首先要求填报内容不同，即深度合成服务提供者需填报关联产品及功能信息，而深度合成服务提供者需填报技术服务方式。具体流程参见下图：

在具体填报的过程中，根据填报内容定位，通常情况下需要一定的时间准备材料，因此我们建议企业首先根据《互联网信息服务算法备案系统》重新整理需要填报的内容，在确认填报的内容准确无误后重新进行上传至系统中，支承因系统关闭或者未保存而需重复操作。

3、备案材料

在算法备案材料中，除主体信息、算法基本信息等实时填写的基本内容外，还需单独准备以下几个附件：

（一）落实安全主体责任基本情况

在主体信息填报（第一步）中，企业需要上传《落实算法安全主体责任基本情况》表，其主要内容包括企业设置算法安全专职制度以及制定算法安全管理制度。算法安全管理制度应当至少包括完善安全自评估制度、完善安全自评估制度、完善安全事故处置制度、完善安全事件应急处置制度、科技伦理监测制度等。

（2）算法安全自评估报告

在算法信息填报（第二步）中，企业需要提交算法安全自评估报告，其主要内容包括算法情况（算法流程、数据、模型和干预策略）、服务情况、风险研判、风险情况、安全评估对比服务提供者与技术支持者的算法安全自评估模板报告，服务提供者需要提供更多关于内容生态治理、结果标识、排除谣言机制，以及用户权益保障方面的说明。

（3）拟公示内容

根据《算法推荐管理规定》第十六条，算法推荐服务提供者应以适当方式公开阐明算法推荐服务的基本原理、目的意图和主要运行机制等。在算法信息填报（第二步）中，企业即刻需要提交算法拟定公示内容，主要包括算法基本原理、算法运行机制、算法应用场景、算法目的意图，以供监管机构审核。据目前监管机构已公布了关于算法基本原理、算法运行机制等内容的公示维度，建议企业可参考行业目前的实践做法，把握公示内容的颗粒度，以确保在不泄露算法技术商业秘密的前提下履行算法的法律义务。

第三份材料是整个算法备案中的关键审核材料，其内容不仅涉及算法基本原理、算法属性等算法技术本身，还涉及算法安全管理制度、组织架构、风险措施等算法防控合体系建设情况。 ，需要建议完成算法备案的企业可提前准备相关内容，必要时，可引入丰富经验的外部律师协助企业搭建算法合规体系，确保算法备案材料的齐备性。

4、备案期限

根据《算法推荐管理规定》第二十五条，当算法材料准备齐全时，网信部门应当在三十个工作日内进行包装备案。根据我们的项目实践，在深度合成算法备案流程中，可能需要存在公司补正材料的情况因此完成复杂合成算法需要2个月以上。

日前公布的《生成人工智能服务管理暂行办法》亦对AIGC产品提出算法备案要求。作为人工智能领域的重要监管措施，算法备案已成为AIGC产品的入市方式。算法备案所需时间所需，建议需要履行算法备案的企业尽早开展算法备案工作。在具体的算法备案流程中，一方面，企业需要对自身算法进行全面梳理，由法务、IT协调配合准备相关备案材料，必要时可引入外部另外，企业需充分了解相关法规要求和备案流程，必要时可与监管部门积极沟通和协调。完成备案后，应及时在产品的显着位置公示备案编号，并以后续方式进行备案算法备案只是算法治理的环节之一，完成算法备案并非一劳永逸，AIGC产业企业应主动拥抱监管，主动履行《算法推荐管理规定》《深度合成管理》 《关于财政治理的其他合规要求》。

雾里看花——AIGC产品合规上市之安全评估篇

根据《具有调节属性或社会激励能力的互联网信息服务安全评估规定》，安全评估是所有具有调节属性或社会激励能力的信息服务上市的前置条件。作为2018年的规定，安全评估在很长一段时间间歇引起市场的关注，直至《生成式人工智能服务管理暂行办法》将其拉回大众的视野。

根据《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会激发能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估。至此，具有《舆论属性或社会激发能力》的能力的互联网信息服务安全评估规定》以及已经趋于成熟的评估安全机制再次焕发了“生机”。然而，我们根据实践探索，此类2018年的旧规定在AIGC产品前有了新的内涵，成为AIGC产品上市前最顽固的一面壁垒。

安全评估0.5

早在2017年，网信办就提出了“评估安全”的监管办法。彼时，《互联网新闻信息服务新应用安全评估管理规定》规定了互联网新闻服务提供者当（1）应用新、调整增强设置具有新闻舆论属性或社会激励能力的应用功能，或（二）新、新应用功能在用户规模、功能属性、技术实现方式、基础资源配置等方面的改变导致新闻舆论属性或社会激励能力发生重大变化时，应当组织开展新应用安全评估、编制编制安全评估报告，并报请国家或地方网信办开展核查产权的安全评估。这就是场地所称的“双新评估”（新新评估）应用） ”的雏形。

但是，在《互联网新闻信息服务新应用安全评估管理规定》的框架下，开展安全评估的任务主体仅针对“互联网新闻信息服务提供者”，而该规定的上位法《互联网新闻信息服务》 《限制管理》又针对“互联网新闻信息服务规定”再做了规定：

点击可查看大图

因此，虽然该规定目前仍然有效，但对于不涉及足新闻信息服务的 AIGC 产品并不适用，因此我们将其命名为安全评估0.5版本。

安全评估1.0

在《互联网新闻信息服务新应用安全评估管理规定》实施一年后，网信办发布了《具有调节属性或社会激励能力的互联网信息服务安全评估规定》。这一次，安全评估的适用对象不再局限于新闻业，适用场景也从0.5版本的新技术新应用进一步延展开来。

根据该规定，互联网信息服务提供者在下列情况下应当自行开展安全评估：

（一）具有舆论属性或社会激励能力的信息服务上线，或者信息服务增设相关功能；

（二）运用新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变化，导致调解属性或者社会激励能力发生重大变化；

（三）用户规模显着增加，导致信息服务属性或者社会动员能力发生重大变化；

（四）发生违法疫情信息传播扩散，表现出安全措施难以有效防控网络安全风险的情况；

（五）地市级以上网信部门或者公安机关书面告知需要进行安全评估的其他情况。

在情况下，互联网信息服务提供者需自行进行安全评估并通过全国互联网安全管理服务平台（https://www.beian.gov.cn/portal/index.do）向上述地市级以上网信部门、公安机关提交安全评估报告。评估内容即为《具有监管属性或者动员社会能力的互联网信息服务安全评估规定》第五条所规定的内容。

点击可查看大图

此外，网信部门和公安部门有权视情况开展现场检查。一般由互联网信息服务提供者携带材料前往指定公安部门进行现场检查和作答。因此，从提交的窗口和检查机构来看，1.0版本的安全评估以公安部门为实施主力。

另外，1.0版本的安全评估虽然在法条中与“具有调节属性或社会激励能力”紧密结合，但实务中对于如何为“具有调节属性或社会激励能力”的判断相对宽泛，几乎囊括了所有具备互联网信息交互渠道功能的产品。 意义在于，1.0版本的安全评估流程公开透明，实践中企业根据全国互联网安全评估服务提供平台的《安全评估使用手册》按图索骥填报信息并上传备案报告即可，不存在物质障碍。安全评估报告从提交到通常一个月内即可完成。

安全评估2.0

时间来到人工智能技术大放异彩的2023年。如上文所述，1.0版本的安全评估增加了新的附加值。一个困境是：以大模型为主的AIGC产品杠杆正在被要求向中央网信该评估报告要求具体并内容精彩，动辄上百页幅，与全国互联网安全管理服务平台所填报的安全报告评估大相径庭，故称其为安全评估2.0版。

目前，安全评估2.0版本的监管对象以AIGC大模型为主。仅基于我们的实践经验与观察，安全评估2.0版本目前与1.0版本主要有以下区别：

注：上表仅基于我们的实践经验和观察总结，其全面性和准确性有待进一步提升

事实上，监管部门对于AIGC产品的安全风险关注并非新鲜事。早在2021年，中央网信办就已联同公安部提出要加强对语音社交软件和涉足深度格式技术的互联网新应用安全评估。彼时其援引的法律基础还是《具有调节属性或激励能力的互联网信息服务安全评估规定》。时隔两年，对安全评估的监管强度有了显着提升。两大AIGC产品正在酝酿中很难满足2.0版本的安全评估要求。

点击可查看大图

但关于2.0版本的安全评估（双新评估）的出处，似乎有一种实践先行、立法滞后的状态。在《生成式人工智能服务管理办法（征求意见稿）》中，第六条曾有“利用生成”人工智能产品向公众提供服务前，应当按照《具有监管属性或社会激励能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估的规定。虽然该条方式借鉴了安全评估1.0版本的法律基础（即《具有舆论属性或社会激励能力的互联网信息服务评估安全规定》），届时将申报对象部门从原规定的“地市级以上网信部门和公安机关”提级至“国家网”因此，征求意见稿第六条曾被视为安全评估2.0的立法铺垫。

然而，在最终的版本中，关于安全评估的要求被替换为“提供具有调节属性社会激励能力的生成人工智能服务的，应当按照国家有关规定开展安全评估”。理解：

• “具有舆论属性或社会激励能力的生成式人工智能服务”是“具有舆论属性或社会激励能力的互联网信息服务”的子集，因此AIGC服务提供者应满足《具有舆论属性或社会激励能力的互联网信息服务》 《信息服务安全评估规定》的相关要求，包括申报1.0版本安全评估；

• “国家有关规定”并不限于《具有调解属性或社会激励能力的互联网信息服务安全评估规定》。因此，AIGC服务提供者应同时满足其他适用法规的要求。如果其他适用法规提出类似的安全评估要求，则AIGC服务提供者也应当依法履行相关评估义务。

此外，“安全评估”的要求也同时在其他人工智能产业相关立法中出现：

• 《算法推荐管理规定》第二十七条：具有调节属性或者社会激励能力的算法推荐服务提供者应当按照国家有关规定开展安全评估；

• 《深度合成管理规定》第十五条：深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当自行委托或者专业机构开展安全评估：（一）生成或者编辑人人脸、人声等生物识别信息的；（二）生成或编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。

• 《深度合成管理规定》第二十条：深度合成服务提供者开发上线具有舆论属性或者社会激发能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。

当多套“安全评估”体系同时存在时，企业在理解上述法规时不免产生困惑。，我们谨对立法作出前瞻，未来中央网信办或会就2.0版本的安全评估单独下位法或具体的评估规则，以消弭当前的法律基础空白。

题外话：工信版“安全评估”

其中，关于安全评估0.5、1.0以及2.0版本均由网信部门牵头（虽然实操中1.0版本的安全评估多由公安部门推动，但网信部门也具备同等法定职权），但同时存在还有工信部版本“安全评估”。

工信部版本的“安全评估”始于工信部于2017年发布的《互联网新业务安全评估管理办法（征求意见稿）》。该办法要求电信业务经营者对互联网新业务可能引发的网络信息安全风险应进行安全评估（因此该评估也称为“双新评估”。为避免疑义后续将使用“工信部版‘安全评估’ ”的称呼）。该办法虽未生效，但此后工信部陆续发布了一系列通信行业互联网新技术新业务信息安全评估行业标准文件（下图），使得工信部版本“安全评估”得以落地实施。

点击可查看大图

工信部版本的“安全评估”目前已经具备相对成熟的服务流程，并获得市场认可的评估机构。值得关注的是，关于工信部版本的“安全评估”实质内容与网信版本安全评估2.0版本存在面积较大重叠，未来网信、工信、公安各部门是否会相互协调收归监管口径，统一监管尺度也值得期待。

综上所述，目前关于安全评估的尚雾里看花，预需监管部门的明确与明确。但不置可否否，现阶段2.0版安全评估已经成为AIGC产品上市前最顽强的一道壁垒各家大模型厂商均已做好持久战的准备。而对于尚未着手准备申报的相关企业，建议我们其高度重视，尽早内部立项，积极调配负责人，必要时引入外部律师共同推进。

结语

在AIGC产品上市的过程中，算法备案和安全评估是保障其合规性的重要环节。在上篇中，我们深入探讨了算法备案的流程、内容以及注意事项，同时详细梳理了安全评估的历史沿着革和现状。算法备案和安全评估作为产品上市前的关键环节，不仅在法律法规方面上确保了AIGC产品的技术安全和输出内容安全，也是企业在境内人工智能危机守法合规经营并保持长期发展的关键因素。

以上只是AIGC产品上市合规之路的一部分。在下篇中，我们将继续介绍AIGC产品上市所需的资质证明和内控措施，进一步探讨如何制定和执行有效的合规策略，以期帮助企业搭建一个的短暂合规框架，为AIGC产品上市保驾护航。