深度合成算法备案全知道：不同角色审核的重点是什么？

在AI高速发展的当下，深度合成技术正以前所未有的速度融入我们的生活，从创意视频的生成到智能语音助手的应答，它无处不在。而为了保障这一技术的安全、可靠应用，深度合成算法备案成为关键一环。截至目前（5 月 19 日），已发布的 11 批深度合成算法中，共计有 3445 款通过备案。其中，服务提供者角色备案通过 2645 款，占比 76.78%；服务技术支持者角色备案通过 800 款，占比 23.22%。但很多小伙伴对深度合成类不同角色的备案要求还存在疑惑，今天就来给大家详细科普一下。

 一、角色大揭秘：服务提供者 vs. 服务技术支持者

  服务提供者：简单来说，就是直接给咱广大普通用户（也就是 C 端）提供服务的。不管它是以微信小程序、APP、网站、公众号、插件，还是其他啥形式呈现，只要面向的是普通大众，那它就属于服务提供者。比如，某款能帮你自动生成个性化头像的手机 APP，这就是典型的服务提供者，它直接把服务送到你我这样的用户手中。
  服务技术支持者 ：这类角色主要面向的是企业，为它们提供 API 接口或者私有化部署服务。打个比方，一家人工智能技术公司（技术外包或者提供SaaS服务），它不直接做面向消费者的产品，而是给其他企业搭建智能客服系统的后台技术支持，那它就是服务技术支持者，为企业提供 “技术弹药”，让企业的服务得以顺畅运转。

还有的企业厉害到既涉及 C 端服务，同时又给其他企业提供 API 或私有化部署服务。这种情况下，那可就得两个角色都要备案啦，一个都不能少。

 二、审核关卡重重：不同角色的审核侧重点

所有算法备案，不管哪类，都要经历一审和二审这两个关键关卡。

  一审 ：主要看逻辑是不是能说得通，有没有明显的自相矛盾的地方。比如，算法描述里前面说能实现某种功能，后面又出现相悖的表述，那肯定过不了输入输出的模态是否和填报项、自评估报告及拟公示内容一致。同时还会看风险评估做得是否合理，风险防范措施有没有实际效果等。
  二审 ：重点转移到模型本身。要仔细检查模型是否安全可靠，干预策略是不是合理有效，用户权益有没有得到妥善保障，以及是否符合最小化原则等。

（一）服务提供者：审核的 “N 重关卡”

  算法流程与数据 ：要详细审查算法是怎么一步步运行的，各模态（比如文字、图像、语音等不同形式的数据）的输入输出数据都咋回事。就拿一个能生成绘画作品的 APP 来说，得看它输入的是用户的啥指令，输出的画作质量、风格等数据是否符合规范。
  算法模型（二审重点） ：二审时会深入 “盘问” 模型，看它是不是稳固可靠，有没有潜在的 “小毛病” 可能引发大问题。
  结果标识 ：这可是重点中的重点，自四部门发布的《结果标识管理办法》之后，办法虽然自9月1号开始执行，但是目前已经按照新流程开始审核。包括溯源标识（能追踪到结果是怎么来的）和显性标识、隐性标识。对于已经上线的产品，网信办还会真的登录上去核验这些标识是不是落实到位。比如说，一段由算法生成的视频，得在明显位置标识出它是AI生成的，不能误导观众。
  风险研判及防控（用户权益保护重点） ：要仔细评估可能会出现的风险，重点看用户权益咋保护。比如，算法别动不动就收集用户过多隐私信息，这就不符合用户权益保护要求（最新公布Kimi因为实际收集的用户信息与业务功能没有实际管理及智谱就面临超范围采集被通报）。
  内容风险治理 ：机器审核和人工审核得双把关。想象一下，一个能生成文字内容的平台，得靠机器先筛选掉明显违规内容，再由人工进一步仔细甄别，防止不良信息传播。
  模型安全保障以及公示内容一致性：要确保模型安全，同时拟公示的内容不能和自评估报告有明显冲突，尤其是模态的输入输出及算法机制方面，还得简述算法机制及应用场景，把输入输出情况说清楚。

（二）服务技术支持者：技术 “后盾” 的严审

  算法流程与数据（避免产品相关情况） ：同样要审核算法流程，输入输出数据以及训练数据等。但这里要注意，不能夹带 “产品私货”，不能涉及具体产品的相关情况。
  算法模型与干预策略（技术视角的深挖） ：二审时，重点看算法模型咋样，干预策略从数据预处理到结果后处理等各环节是否合理。比如说，给企业提供 API 接口用于图像识别技术服务，要确保模型能准确识别，干预策略能在识别出错时及时纠正。
  服务技术支持情况（服务细节大起底） ：得明确是提供 API 接口还是私有化部署，服务的频次、访问方式、服务对象（接受技术服务的主体）等都得一五一十交代清楚。
  风险防范与防控（技术层面的保障网） ：从技术支持角度，要评估算法滥用、算法漏洞、算法恶意利用等风险会造成多大影响。同时，防范机制得合理有效，有完善的评估监测、风险处置制度及防范措施。还得保障用户权益、隐私，确保数据存储安全。比如，防止技术被别有用心的人利用来制造虚假信息。

 三、文件能否共用？

不少小伙伴会问，既涉及服务提供者又涉及服务技术支持者的情况，能共用一份文件备案吗？答案是：不行！为啥呢？

因为面向的群体完全不一样，备案材料的侧重点也大相径庭。服务提供者还得重点提供结果标识、内容风险治理等情况，而技术支持者则要着重描述技术提供过程中算法安全、模型安全保障等情况。就好比一个是给普通消费者 “量身定制” 的服务，一个是给企业 “背后撑腰” 的技术支撑，二者各有各的 “专属任务”，文件肯定不能混为一谈。

四、涉及两个角色，只备案一个角色是否可行？

服务提供者和服务技术支持者的备案范围是泾渭分明的。服务技术支持者就是给其他企业提供技术支持；而面向公众提供服务，那就得老老实实备案服务提供者角色。二者绝不能混用，别想着备案了一个角色，另一个角色就自动 “免检” 了。网信办的 “火眼金睛” 可时刻盯着呢，一旦发现有未备案却违规上线的产品，那是分分钟下架的节奏！

五、审核状态

如果我们的资料已经提交审核，且一直在审核中未被驳回的状态，那么恭喜您，可以直接等待下批次的公示。直到下一次公示之前，状态都会是审核中，公示之后系统会自动获取备案号及审核通过得到截图如下图。

所以啊，大家现在对深度合成算法备案是不是有了更清晰的认识啦？在这个技术飞速发展的时代，只有把算法备案这一基础工作做好，才能让深度合成技术真正成为造福大众的力量，而不是藏着隐患的 “不定时炸弹”。无论是服务提供者还是服务技术支持者，都得各负其责，按规定完成备案，咱们才能放心享受技术带来的便利，也让整个行业在健康的轨道上一路向前奔腾。