亲身经历：中国生成式人工智能大模型备案全解析

作为一名在AI行业摸爬滚打多年的创业者，公司自主研发的生成式人工智能大模型就像我们的“孩子”，倾注了无数心血。然而，要让这个“孩子”合规合法地走向市场，就必须通过备案这一关。这一路走来，满是曲折与收获，今天我就把这段备案经历详细分享给大家，希望能给正在或即将踏上备案之路的朋友们一些实用的参考。

一、大模型备案的法律框架与监管逻辑

政策体系与监管主体

在决定启动备案工作后，我首先一头扎进了法律法规的研究中。中国的大模型备案体系是由《网络安全法》《数据安全法》《个人信息保护法》这三部基础法律作为基石，再加上《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等专项法规共同构建的。

国家互联网信息办公室（网信办）是核心监管机构，联合工信部、公安部等六部委形成了跨部门协同治理机制。省级网信办负责属地企业备案初审，中央网信办进行终审并公示备案结果。为了搞清楚各个部门的职责和流程，我频繁地给相关部门打电话咨询，有时候一个问题要问好几个部门才能得到确切的答复。

备案类型与适用范围

备案主要分为两类：大模型备案和大模型登记。不同类型的备案，适用场景和要求都不同。

备案类型	适用场景	要求
大模型备案	针对自研大模型	需提交完整技术文档与安全评估报告
大模型登记	针对调用已备案模型的API服务	流程简化，但需提供调用协议与风险防控方案

我们公司开发的是自研大模型，所以必须进行大模型备案。而有些同行企业，如果只是调用第三方模型来开发智能客服，就可以选择大模型登记，流程相对简单一些。

监管逻辑与技术治理

备案制度从技术、内容、数据三个维度进行风险控制。技术上，要求模型具备可解释性、鲁棒性及抗攻击能力；内容上，要建立覆盖17类安全风险的拦截关键词库，总规模不少于1万词；数据上，要确保语料来源合法、标注规范，并建立数据全生命周期管理机制。

二、大模型备案全流程解析

备案流程图

整个备案流程就像一场漫长而复杂的接力赛，每个环节都至关重要，任何一个环节出现失误，都可能导致备案失败，需要重新开始。以下是备案流程的详细图示：

mermaid

	graph TD
	A[准备阶段] --> B[提交申请]
	B --> C[省级初审]
	C -->|通过| D[中央复审]
	C -->|驳回| E[材料修改]
	E --> C
	D -->|通过| F[公示备案号]
	D -->|驳回| G[技术整改]
	G --> D
	F --> H[持续合规管理]

关键节点与时间周期

准备阶段（1 - 2个月）

这个阶段是最忙碌也是最关键的，需要完成多项重要工作。

• 模型内测：技术团队要对模型进行全面的内部测试，建立测试账号体系，模拟各种实际使用场景，找出模型存在的问题并及时修复。
• 材料编制：要编制安全评估报告、语料标注规则等材料。安全评估报告涵盖语料安全、生成内容安全、问题拒答评估等多个方面，需要回答160 +项备案指标。语料标注规则要明确标注团队资质、数据脱敏方案、标注流程及质量控制机制。
• 团队组建：组建跨部门合规团队，包括技术、法务、产品等人员。技术团队负责提供技术支持和解答技术问题；法务团队负责审核材料的合法性和合规性；产品团队负责协调各方资源，确保备案工作的顺利进行。

我当时为了编制安全评估报告，和技术团队、法务团队开了无数次的会议，反复讨论和修改，眼睛都快看花了。

提交申请

通过省级网信办指定渠道提交电子材料，材料需加盖企业公章并确保可读性。在提交之前，我又仔细检查了好几遍，生怕出一点差错。

省级初审（1 - 2个月）

省级网信办会对提交的材料进行审核，主要审核材料的完整性、技术安全性及合规性。常见驳回原因有语料来源证明不足、拦截词库覆盖率低等。

我们公司就因为语料来源证明不够详细，被驳回了材料。当时我心里特别着急，赶紧组织团队重新收集和整理语料来源证明，补充了大量的细节和数据，又花了不少时间才重新提交上去。

中央复审（1 - 2个月）

六部委联合评审，重点审查算法偏见、数据跨境流动等风险。这个阶段压力特别大，就像等待高考成绩一样，心里一直悬着。我们时刻关注着审核进度，一旦有消息就第一时间处理。

公示备案号

如果通过中央复审，就会公示备案号，企业需要在显著位置展示。当看到公司的备案号公示出来的那一刻，我心里的大石头终于落了地，所有的辛苦和付出都有了回报。

持续合规管理

备案成功并不意味着万事大吉，还需要进行持续合规管理。要定期对模型进行安全评估和更新，确保模型始终符合监管要求。

典型案例分析

我们公司备案周期长达6个月，期间遇到了不少难题。

• 多模态内容安全：需要分别提交文本、图像、音频的评估测试题集。技术团队花费了大量的时间和精力去准备这些测试题集，对不同类型的多模态内容进行了深入的分析和研究，确保模型能够准确识别和处理各种安全风险。
• 动态对抗性测试：拦截词库需每周更新，误伤率还需控制在0.1%以下。为了降低误伤率，我们不断调整拦截策略，引入了更先进的语义分析算法，做了无数次的测试和优化。
• 第三方语料合规：境外开源数据需提供版权证明及脱敏方案。我们四处联系版权方，对数据进行脱敏处理，费了好大的劲才满足要求。

三、大模型备案所需材料清单与技术要求

核心材料清单

备案需要提交的材料非常多，每一项都有严格的内容要求。以下是核心材料清单及内容要求：

材料名称	内容要求
《大模型上线备案申请表》	模型名称、版本号、应用领域、开发单位、联系人及联系方式
安全评估报告	涵盖语料安全、生成内容安全、问题拒答评估，需回答160 +项备案指标
模型服务协议	明确用户隐私条款、投诉处理机制、责任限制与免责声明
语料标注规则	标注团队资质、数据脱敏方案、标注流程及质量控制机制
拦截关键词库	覆盖17类安全风险，总规模不少于1万词，需动态更新
评估测试题集	生成内容测试题库、拒答测试题库、非拒答测试题库，每月更新
ICP经营许可证	证明企业具备互联网信息服务资质
算法模型训练数据合规证明	语料来源合法性证明、数据使用授权协议
近三个月拦截数据统计	记录拦截日志、误伤率及人工复核结果

我当时为了准备这些材料，天天加班到深夜，感觉身体都快被掏空了。但一想到备案成功后公司的发展前景，就又充满了动力。

技术要求详解

语料安全评估

语料安全评估包括人工抽检和技术抽检。人工抽检要从语料库中随机抽取4000条，合格率要≥96%；技术抽检要结合关键词、分类模型抽检10%语料，合格率要≥98%。境外语料还需提供版权证明及脱敏方案。

我们公司为了确保语料安全，专门成立了一个审核小组，对语料进行逐条审核。审核过程中，大家发现了很多之前没有注意到的问题，比如一些语料的版权归属不明确、标注不规范等。经过反复的审核和修改，语料的安全性和合规性才得到了保障。

生成内容安全评估

生成内容安全评估有生成内容测试题库、拒答测试题库、非拒答测试题库等。生成内容测试题库要随机抽取1000题，模型生成内容的抽样合格率要≥90%；拒答测试题库要随机抽取300题，拒答率要≥95%（应拒答场景）；非拒答测试题库要随机抽取300题，拒答率要≤5%（非拒答场景）。

技术团队为了满足这些要求，不断优化模型算法，做了大量的实验和调整。有时候为了一个小的改进，要花费好几天的时间进行测试和验证。

拦截关键词库建设

拦截关键词库要覆盖暴力恐怖、色情低俗、毒品违法、网络欺凌等17类风险，还要动态更新，每周更新一次，并结合上下文语义分析避免误拦。同时，要建立分级拦截机制，一级拦截（直接屏蔽）、二级拦截（内容替换 + 人工复核）、三级拦截（风险提示 + 用户确认）。

我们为了建设这个拦截关键词库，收集了大量的敏感词汇，还专门开发了一个语义分析算法，来提高拦截的准确性。在建设过程中，我们遇到了很多困难，比如一些敏感词汇的语义比较模糊，很难准确判断是否需要拦截。经过多次的讨论和尝试，我们终于找到了一个相对合理的解决方案。

多模态内容安全

图文组合规避检测、音频内容检测等都是多模态内容安全的难点。图文组合要建立跨模态风险识别模型，音频内容要支持方言、变声、背景噪音干扰下的敏感词识别。

技术团队为了攻克这些难题，查阅了大量的文献资料，进行了多次的技术攻关。他们尝试了很多不同的方法，最终通过融合文本、图像、音频特征，建立了一个跨模态风险识别模型，才终于取得了突破。

四、大模型备案的技术难点与解决方案

动态对抗性测试挑战

动态对抗性测试就像是一场猫鼠游戏，模型要应对谐音词（如“VX”）、拼音缩写（如“薇❤”）、上下文关联（如“价格跳水” + “股票推荐”）等绕过策略。

我们引入了BERT、GPT等预训练模型进行语义分析，还建立了对抗样本库，模拟10万 +违规请求进行压力测试。在测试过程中，我们发现模型对一些复杂的绕过策略还是识别不够准确，于是不断调整模型的参数和算法，经过多次的迭代和优化，模型的抗干扰能力才逐渐提高。

算法偏见与公平性控制

算法偏见是个很严重的问题，模型可能因数据偏差对特定群体产生歧视，比如性别、种族、职业等。

我们在训练阶段引入了公平性约束（如Demographic Parity、Equalized Odds），在推理阶段建立偏差检测机制，对高风险场景进行人工复核。在实施过程中，我们发现要完全消除算法偏见是非常困难的，需要不断地调整和优化模型。我们定期对模型进行公平性评估，一旦发现问题就及时进行处理。

数据跨境流动合规

对于境外基座模型或爬取境外数据的企业来说，数据跨境流动合规是个大难题。

我们建立了数据本地化存储机制，确保训练数据存储于境内服务器，还对境外数据进行了脱敏处理，删除个人身份信息（PII）及敏感内容。在实施过程中，我们遇到了一些技术上的挑战，比如如何确保数据在本地化存储的同时，还能满足模型的训练需求。经过技术团队的努力，我们终于找到了一个合适的解决方案。

多模态内容安全评估

图文组合、音视频混合内容难以通过单一模态检测，我们开发了跨模态风险识别模型，融合文本、图像、音频特征，还建立了多模态内容安全评估标准，覆盖图文一致性、音频语义匹配等场景。

在开发过程中，我们遇到了很多技术难题，比如不同模态之间的特征融合问题、评估标准的制定问题等。我们组织了多次的技术研讨会，邀请了行业内的专家进行指导，经过不断的尝试和改进，才终于完成了跨模态风险识别模型的开发和多模态内容安全评估标准的建立。

五、企业合规实践建议

建立动态合规机制

设立专职合规团队，跟踪政策更新并调整备案材料，每季度开展一次内部安全审计，确保模型持续符合监管要求。我们公司现在就专门成立了一个合规小组，时刻关注政策动态，一旦有新的政策出台，就及时调整我们的备案材料和模型。

加强技术投入

引入自动化测试工具，降低人工审核成本，与第三方安全机构合作，提升安全评估报告的专业性。我们公司引入了一些先进的自动化测试工具，大大提高了测试效率，还和一家知名的第三方安全机构合作，对我们的模型进行了全面的安全评估。

优化语料管理

建立语料来源追溯系统，记录数据采集、标注、使用全流程，对境外语料进行版权审查，避免侵权风险。我们公司现在对语料的管理非常严格，每一份语料都有详细的记录，确保语料的来源合法、标注规范。

完善用户反馈机制

在服务协议中明确投诉渠道，72小时内响应用户举报，建立内容安全应急预案，对重大舆情事件进行快速处置。我们公司设立了专门的用户反馈渠道，安排专人负责处理用户举报，还制定了内容安全应急预案，一旦发生重大舆情事件，能够迅速做出反应。

结论：备案虽难，未来可期

大模型备案是中国生成式人工智能治理的核心环节，其技术复杂性与合规要求远超传统互联网服务。在备案的过程中，我们遇到了很多困难和挑战，但也收获了很多宝贵的经验。企业要从技术架构、内容安全、数据管理三大维度构建合规体系，并通过动态合规机制应对监管变化。

未来，随着相关法规的不断完善，大模型备案将进一步向标准化、国际化方向发展。我相信，只要我们以合规为基石，就一定能在技术创新与风险防控之间实现平衡，推动生成式人工智能技术的可持续发展。希望我的备案经历能给大家带来一些启发和帮助，如果大家在备案过程中遇到什么问题，也欢迎随时和我交流。