近日,国家网信办等四部门印发《人工智能生成合成内容标识办法》,新办法的施行日期是自 2025 年 9 月 1 日起施行 。
正式定义显式、隐式标识
《办法》提到,人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式,显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
显式标识的具体要求包括:
形式多样:可以是文字、角标、语音或音频节奏等。
位置明确:如图片显式标识文字高度应不低于画面最短边长度的5%,视频显式标识应添加在起始画面及播放周边适当位置。
场景适用:适用于所有生成合成内容的场景,包括文本、音频、图片、视频和交互界面。
技术实现:需在生成内容或交互界面中直接呈现,确保用户能够快速识别内容来源。
隐式标识的具体要求包括:
嵌入元数据:通过文件元数据记录生成合成内容的信息,如服务提供者名称、内容编号等。
技术措施:嵌入的技术措施不会影响用户的正常使用,但可以通过技术手段提取。
应用场景:适用于需要确保内容来源可靠性和防止侵权的场景,如法律合规性检查和内容审计。
显式标识与隐式标识的区别
感知方式:显式标识直接呈现给用户,易于察觉。隐式标识隐藏在文件数据中,不易被用户直接感知。
功能定位:显式标识主要用于提升用户透明度,降低误导风险。隐式标识主要用于技术支持,如内容溯源和侵权追踪。
应用场景:显式标识适用于所有生成合成内容的场景。隐式标识适用于需要确保内容来源可靠性和防止侵权的特定场景。
《办法》主要内容总结
目的与依据:为促进人工智能健康发展,规范生成合成内容标识,保护权益、维护公益,依据相关法律法规制定本办法。
适用范围:符合相关规定情形的网络信息服务提供者开展人工智能生成合成内容标识活动适用本办法。
相关概念:明确人工智能生成合成内容及显式、隐式标识的定义,以及显式标识具体要求、隐式标识具体要求。
传播服务要求:提供网络信息内容传播服务的服务提供者针对不同情况(含隐式标识、用户声明、检测到痕迹等)规范传播活动的措施,以及添加传播要素信息的要求。
应用程序平台要求:互联网应用程序分发平台在审核时对服务提供者的相关要求,包括说明服务及核验标识材料。
用户服务协议要求:服务提供者在协议中明确标识规范内容并提示用户。
无显式标识服务:用户申请无显式标识生成合成内容时,服务提供者的处理方式及留存日志要求。
用户标识义务:用户发布生成合成内容应主动声明并标识,禁止恶意行为。
其他要求:服务提供者标识活动应符合其他规定,履行手续时提供标识材料并加强信息共享。
违规处理:相关主管部门对违反本办法行为依法处理。
影响重大
《人工智能生成合成内容标识办法》是目前我国人工智能生成内容治理和秩序管理发展过程中的关键一招,也和目前AIGC技术发展和社会化应用阶段相匹配。
《标识办法》主要约束的是人工智能生成服务提供者,通过标识解决一些特定场景的“透明义务”问题,提高违规和责任成本。
在AI合成的内容方面,显式标识作为前端防线,通过直观提示用户内容来源,降低误导风险;隐式标识则作为后端支撑,通过技术手段确保内容的可追溯性和真实性。这两道防线相辅相成,共同维护着一个清晰、可信的信息环境。