上周朋友咨询:我们做了一个智能体,主要是医疗方面的应用,接了第三方的开源模型,做了微调,面向c端客户,提供医疗问答、健康助手等方面的服务,我们已经做了算法备案,请问是否需要做大模型备案?
相信和我这个朋友遇到的问题一样,很多企业目前也面临这样的问题,下面就给大家讲解一下什么是算法备案和大模型备案?
算法备案≠万能,AI企业需警惕“一备永逸”误区
随着《生成式人工智能服务管理暂行办法》(以下简称《生成式AI办法》)和《人工智能生成合成内容标识办法》的落地,许多企业误以为“算法备案”已覆盖大模型备案义务,最终因合规漏洞面临监管处罚。本文结合最新政策,剖析两类备案的本质差异与联动逻辑,为企业厘清关键风险。
一、算法备案与大模型备案:监管对象与法律依据不同
1. 算法备案适用法律:
法律依据:根据《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》
适用范围: 需要进行互联网算法备案的主体包含具有舆论属性或者社会动员能力的算法推荐服务提供者、深度合成服务提供者、深度合成服务技术支持者和生成式人工智能服务提供者。
二、算法备案的类型
1.算法备案的类型:
(1)生成合成类(深度合成)算法:利用深度学习、虚拟现实等技术,自动或辅助生成、编辑文本、图像、语音、视频等网络信息内容。
(2)个性化推送类算法:根据用户属性数据或用户行为数据,实现信息的个性化分发。
(3)排序精选类算法:依据客观因素或主观因素,设置、调整网络信息内容的排列顺序。
(4)检索过滤类算法:包括检索算法和过滤算法,分别用于匹配相应网络信息内容和识别、筛选特定网络信息内容。
(5)调度决策类算法:自动或辅助生成供需匹配、供需调节、路径规划等调度决策结果,或提供调度决策依据。 (主要是应用领域为交通物流类)
核心要求:备案算法机制原理、干预手段、安全评估报告等,重点防范“信息茧房”“大数据杀熟”等问题。 算法备案明确要求算法在使用5种类别情况下,需要备案,备案范围更广。其中因为生成合成类算法数量占据90%以上,所以,单独针对生成合成类算法后来又出台了《生成式人工智能管理暂行办法》即大模型备案或登记。
2. 大模型备案:针对“生成式AI”全链条监管
法律依据:《生成式人工智能服务管理暂行办法》
适用范围: 根据《生成式人工智能服务管理暂行办法》,同时满足以下条件需强制大模型备案:
✅ 提供生成式AI服务(如文生图、对话交互、图生图);
✅ 服务对象为境内公众用户(C端);
✅ 具备内容生成能力且可能影响舆论或价值观。
核心要求:提供生成式AI服务且面向境内公众用户,具备内容生成能力且可能影响舆论或价值观的自研或者微调模型,需要做大模型备案。
结论:大模型备案只是针对生成式人工智能(深度合成算法)的基础上,符合一定条件才要求做大模型备案或者登记。针对其他算法场景,不属于大模型备案范畴。做大模型备案或者登记的一般还要做算法备案,做了算法备案的,不一定要做大模型备案或者登记。
三、备案的时间不同
算法备案一般需要2个来月左右时间;大模型备案或者登记大约需要4-6个月左右时间;
四、备案资料不同
算法备案需要的资料:企业营业执照、法人及算法负责人身份证、算法负责人工作证明、承诺书、ICP备案号或者许可证号;
大模型备案:语料标注规则、模型服务协议、隐私协议、关键词拦截列表、测试题集、测试账号等;
五、风险警示:备案不全的5大后果
1. 业务下架:未完成大模型备案或者算法备案的生成式AI服务将被责令暂停;
2. 数据追责:未备案模型或算法若生成违法内容,企业需承担更高法律责任;
3. 品牌信任崩塌:用户因“未标识AI内容”投诉,引发舆情危机;
4. 处罚叠加:根据《网络安全法》,最高可处营业额5%罚款。
5.限期整改:业务下架后根据合规情形进行整改;
结语:合规无捷径,“双重备案”是AI企业的必答题
算法备案与大模型备案如同“两条平行铁轨”,共同支撑AI业务合规运行。jxh152637企业需以业务场景为锚点,精准识别备案范围,避免因认知偏差导致系统性风险。距离《生成式AI办法》全面执行仅剩窗口期,唯有主动拆解义务、提前布局,方能抢占合规先机!