整治 AI 技术滥用！网信办 “清朗” 专项行动拉开帷幕，未进行大模型备案或者不合规的AI产品进行全面治理

随着2025年4月30日网信办发布的《中央网信办部署开展“清朗·整治AI技术滥用”专项行动》正式拉开帷幕，目前还未进行备案或者登记手续提供生成式人工智能服务的企业，及已经完成算法备案，但是还未合规的，提醒企业应备尽备，尽快合规。为了避免风险，本文重点解读应该怎么看待这次的专项治理及整改方向。

 一、“清朗·整治 AI 技术滥用” 专项行动概述

近日，中央网信办印发通知，部署开展为期 3 个月的 “清朗·整治 AI 技术滥用” 专项行动，旨在规范 AI 服务和应用，促进行业健康有序发展，保障公民合法权益。

二、专项行动重点整治内容

  第一阶段 ：强化 AI 技术源头治理，清理整治违规 AI 应用程序，加强 AI 生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力，重点整治违规 AI 产品、传授售卖违规 AI 产品教程和商品、训练语料管理不严、安全管理措施薄弱、未落实内容标识要求、重点领域安全风险等 6 类突出问题。
  第二阶段 ：聚焦利用 AI 技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN 机构和网站平台，重点整治利用 AI 制作发布谣言、不实信息、色情低俗内容、假冒他人实施侵权违法行为、从事网络水军活动、AI 产品服务和应用程序违规、侵害未成年人权益等 7 类突出问题。

三、风险防控措施

        强化 AI 产品的合规性管理
        履行备案登记程序 ：开发或运营生成式人工智能产品的公司，需按照相关规定，及时履行大模型备案或登记程序，确保产品合法合规地向公众提供内容服务。
      严格功能设置审核：对诸如 “一键脱衣” 等违背法律、伦理的功能，坚决杜绝其在产品中出现，从源头上避免对用户产生不良诱导和伤害。
      规范生物特征信息处理 ：在涉及他人声音、人脸等生物特征信息的处理时，必须获得明确的授权同意，同时采取严格的技术和管理措施，防止信息被非法克隆、编辑和滥用，切实保护用户隐私。

           加强训练语料管理
         确保语料合法性 ：在收集和使用训练语料时，要充分尊重他人的知识产权、隐私权等合法权益，避免使用侵犯他人权益的信息，也不得使用网上爬取的虚假、无效、不实内容以及非法来源数据，确保训练语料的真实、准确和合法。
        建立管理机制 ：建立健全训练语料的管理机制，定期对语料进行排查清理，及时发现并处理违规语料，以保证 AI 模型的训练质量和安全性，防止因语料问题导致 AI 生成有害或不准确的内容。

          完善技术及审核管理机制
        提升内容审核能力 ：AI 服务提供者应建立与业务规模相适应的内容审核机制，配备专业的审核人员和技术手段，对生成的内容进行全面、细致的审核，确保内容的合法性、真实性和健康性。
      增强意图识别技术 ：加强对用户输入的意图识别技术的研发和应用，提高对不良意图的识别准确率，能够及时发现并拦截利用 AI 技术从事违法犯罪活动的行为，如网络诈骗、恶意营销等。
        建立违规账号管理机制 ：对注册和使用 AI 服务的账号进行严格管理，建立健全违规账号的识别、处置和处罚机制，一旦发现账号存在违规行为，及时采取有效的措施进行处理，维护平台的良好秩序。

        落实内容标识要求
       添加显式隐式标识 ：服务提供者要按照相关规定，对深度合成内容添加隐式、显式内容标识，使用户能够轻松区分哪些内容是 AI 生成的，哪些是人工创作的，避免虚假信息误导公众。
      开展监测甄别工作 ：内容传播平台要积极开展生成合成内容的监测甄别工作，利用技术手段对平台上发布的内容进行实时监测，及时发现并处理未添加标识或标识不符合要求的内容，确保信息的真实性和可靠性。

       重点关注特定领域风险防控
       医疗、金融等领域审核加强 ：对于已备案 AI 产品在医疗、金融、未成年人等重点领域的应用，要针对性地设置严格的安全审核和控制措施，防止出现 “AI 开处方”“诱导投资”“AI 幻觉” 等问题，避免对特定群体造成误导和损害，扰乱正常的社会秩序。
      未成年人保护措施完善：AI 应用程序开发者和运营者应高度重视未成年人保护工作，避免诱导未成年人沉迷，确保未成年人模式下的内容积极向上、健康有益，为未成年人营造良好的网络环境。

      随着3月14日四部门联合发布《人工智能生成合成内容标识办法》以来，算法备案已经开始进入收紧的状态，审核也变的越来越严格。3月28日中央网信办、工业和信息化部、公安部、市场监管总局关于开展2025年个人信息保护系列专项行动的公告，加上4月30日的整治AI技术滥用，对提供AI服务的企业要求越来越规范，已经备案的不符合条件的需要整改，还未备案的企业，需要尽快备案。

       中央网信办开展的 “清朗·整治 AI 技术滥用” 专项行动具有重要意义，通过对 AI 技术应用的全方位整治和规范，有助于防范 AI 技术滥用风险，保障公民合法权益，促进 AI 行业的健康有序发展。作为 AI 从业者和相关从业者，应积极响应此次专项行动，严格遵守相关规定，加强风险防控意识，共同推动 AI 技术在合法合规的轨道上更好地服务于社会和公众。