网信办开始整治AI合规，大模型备案非做不可吗？

近日，国家网信办发文通知，在全国范围内开展为期3月的“整治AI技术滥用”行动。一方面从AI技术出发，清理整治违规AI应用程序；另一方面聚焦利用AI技术制作发布的内容，集中清理违法不良信息，处置违规账号。

一、第一阶段重点整治对象

网信办提出在第一阶段重点整治以下6类AI突出问题：

（一）违规AI产品

主要指利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的。提供违法功能及在未授权情况下侵犯他人隐私的产品。

（二）传授、售卖违规AI产品教程和商品

利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息的。

（三）训练语料管理不严的AI产品

训练语料使用了非法来源数据或使用网上爬取的虚假不实内容的，未建立训练语料管理机制及未定期排查清理违规语料的AI产品

（四）安全管理措施薄弱的AI产品

未建立有效的违规账号管理机制，未定期开展安全评估的产品

（五）未落实内容标识要求的

未对深度合成内容添加显示标识，未向使用者提供或提示隐式、显式内容标识功能，导致虚假信息误导公众的产品

（六）重点领域安全风险

医疗、金融、教育等重点领域的AI产品，未针对性设置行业领域安全审核和控制措施，误导使用人群扰乱市场秩序的

二、第二阶段重点整治对象

第二阶段聚焦利用AI技术制作的传播内容，网信办列出了七大突出整治现象：

1. 利用AI制作内容发布谣言
2. 利用AI制作发布不实信息
3. 利用AI制作发布色情低俗内容
4. 利用AI假冒他人实施侵权违法行为
5. 利用AI从事网络水军活动
6. AI产品服务和应用程序违规
7. 侵害未成年人权益

三、大模型备案流程简介

清晰了解大模型备案的具体流程对于企业顺利完成备案，合法开展业务至关重要。

1. 企业向属地网信办报备，领取上线备案申请表
2. 准备备案材料及测试账号，基础材料是一个备案申请表和五个附件。（不同地区要求的不同，具体要看当地网信办的材料要求，有的地区会多几个附件材料）
3. 将备案材料提交属地网信办进行专家评审和安全评测
4. 属地网信办通过初审后提交中央网信办进行材料复审
5. 中央网信办向六大部委征求意见，多部门协同审查，确认大模型符合备案要求后，备案即算通过
6. 备案结果会由中央网信办反馈至属地网信办，再择期进行备案公示

四、大模型备案通过后续管理

1. 备案公示

备案通过后，网信办会对备案结果进行公示，公示内容包括：企业名称、大模型名称、备案编号、备案时间等内容，接受公众监督。公示期内，公众发现大模型存在问题可以向相关部门反馈。

2. 备案编号悬挂

企业获得备案编号后，需在大模型产品或服务显眼位置悬挂备案号，方便用户和监管部门快速识别和查询大模型的合规情况

3. 常态化安全测试

备案通过后企业需定期对大模型进行常态化安全测试，确保大模型在长期运行过程中始终保持安全、合规状态，若在后期检查中发现问题，需及时整改，按照备案时承诺的安全保障措施和技术规范进行日常运营。

有其他备案问题欢迎后台咨询，下期想看什么内容可以在评论区给我留言~