网信办整治 AI 技术滥用，AI 企业如何合规运营

近期，中央网信办印发通知，开展为期 3 个月的 “清朗・整治 AI 技术滥用” 专项行动，旨在规范 AI 服务和应用，促进行业健康有序发展，保障公民合法权益。作为 AI 领域的从业者，有必要深入理解此次专项行动的要求，并帮助AI科技企业在此基础上实现合规运营。

一、算法备案的重要性

算法备案是 AI 企业合规运营的基础环节。只要从事相关算法服务，无论是接入第三方模型还是提供大模型服务，无论是否需要大模型备案或者登记，均需做算法备案。其中开发的生成式人工智能技术向公众提供服务前，必须完成大模型备案或登记程序。这不仅是对法律法规的遵循，更是对用户负责的表现。备案过程中，企业需详细提供算法的原理、数据来源、应用场景等信息，以便监管部门进行评估和管理。例如，某 AI 企业开发了一款用于文本生成的模型，在备案时就需要明确说明该模型的训练数据是否合法获取，是否包含侵权内容等。

 二、数据与训练语料的合规管理

数据是 AI 模型的基石，企业要确保训练语料的合法性和准确性。首先，要避免使用侵犯他人知识产权、隐私权等权益的信息，不得使用网上爬取的虚假、无效、不实内容，也不能使用非法来源的数据。其次，需建立完善的训练语料管理机制，定期排查清理违规语料。比如，一家图像生成 AI 企业，其训练数据中不能包含未经授权的他人肖像照片，且要对数据进行定期审核，剔除可能存在的问题数据。

三、强化内容审核与安全机制

企业应建立与业务规模相适应的内容审核、意图识别等安全措施。对于生成的内容，要能够有效识别其中可能存在的有害信息，如谣言、不实信息、色情低俗内容等，并及时进行处理。同时，要建立有效的违规账号管理机制，对利用 AI 技术从事违法活动的账号进行及时处置。不仅如此，企业还需定期开展安全自评估，检查自身安全措施的有效性和漏洞，并加以改进。以社交平台为例，对于通过 API 接口接入的 AI 自动回复等服务，平台要清楚其底数，并严格把关，防止有害内容的传播。

 四、落实内容标识要求

服务提供者要对深度合成内容添加隐式、显式内容标识，并向使用者提供或提示显式内容标识功能。内容传播平台则要开展生成合成内容监测甄别，防止虚假信息误导公众。例如，某 AI 视频生成平台，在生成的视频中添加特定的标识码，让用户能够轻易辨别该视频是 AI 生成的，同时平台也要对上传的视频进行监测，识别其中是否包含未添加标识的 AI 合成内容。

五、重点领域风险防控

对于提供医疗、金融、未成年人等重点领域问答服务的已备案 AI 产品，企业要针对性设置行业领域安全审核和控制措施。避免出现 “AI 开处方”“诱导投资”“AI 幻觉” 等误导学生、患者，扰乱金融市场秩序的问题。比如，在医疗领域，AI 辅助诊断系统不能超越其辅助的定位，直接给出确诊结果和治疗方案，而应明确提示医生和患者其仅为参考工具，并对输出的内容进行严格的审核。

六、防止侵权与不当应用

企业要杜绝利用 AI 技术假冒他人实施侵权违法行为，如通过 AI 换脸、声音克隆等深度伪造技术，假冒专家、企业家、明星等公众人物，欺骗网民谋利，或对人物进行恶搞、抹黑、歪曲、异化等。同时，也不能利用 AI 冒充亲友进行网络诈骗，或不当使用 AI “复活逝者”，滥用逝者信息。例如，一些不法分子曾利用 AI 换脸技术制作虚假视频，冒充明星进行广告代言，给明星的名誉和公众的权益都带来了损害。

七、避免网络水军活动

企业不能利用 AI 技术 “养号”，模拟真人批量注册、运营社交账号，也不能使用 AI 内容农场或 AI 洗稿，批量生成发布低质同质化文案，博取流量。更要禁止使用 AI 群控软件、社交机器人批量点赞跟帖评论，刷量控评，制造热点话题上榜等行为。这些行为不仅破坏了网络生态，也损害了其他用户的合法权益。

 八、保护未成年人权益

AI 企业要关注未成年人权益保护，避免应用程序诱导未成年人沉迷，确保在未成年人模式下不存在影响未成年人身心健康的内容。例如，一些 AI 游戏或娱乐应用，要在未成年人模式下对内容进行严格筛选，限制不适宜未成年人接触的功能和信息。

总之，网信办的 “清朗・整治 AI 技术滥用” 专项行动为 AI 企业敲响了警钟。企业应以此为契机，从算法备案、数据管理、内容审核、安全机制、重点领域风险防控等多方面入手，加强内部管理和自查自纠，积极主动地落实各项合规要求，共同推动 AI 行业健康、有序、可持续地发展。