扬眼
|
2024-06-28
6月28日，小米CMO许斐发文称自己的视频被标注成了“疑似AI生成”，“好多人问我到底是不是AI生成的，把我整不会了。看来在AI盛行的环境里，real做个真人也是有难度的。”她发布的视频是自己出镜的内容，她对着镜头非常流利的侃侃而谈，但视频下方标注了一行“内容疑似AI生成，请谨慎甄别。”许斐提问：“判断依据是啥啊？”
明明是真人出镜拍摄口播视频，为什么平台会标注疑似为AI生成？平台是咋判断图片、视频是不是AI生成的？对此，记者询问了视频平台的工作人员，工作人员表示系统会自动检测疑似AI的内容，创作者在发布内容时，可以选择主动标注内容为AI生成，这样内容发布后就会标注“创作者声明：内容由AI生成”，依据相关法律法规规定，平台会识别投稿内容是否有AI生成的可能，如果被识别为“疑似”就会打上标签，如果不是人工智能技术生成的话可以忽略该提示，工作人员还表示，“疑似AI生成”的提示并不会影响投稿内容的流量，但工作人员并未透露平台是如何判断内容是否为AI，也并未明确告知这一标注是否有申诉或取消的方法。
许斐的帖子中附上了她视频的截图，这条帖子引发了不少网友的讨论，大家“看图说话”，推测起了为什么这条视频看上去会像是AI生成的，“口播可能过于流利吧。”“可能是衣领看起来像是分割了头和身体造成了误判？”“我觉得还是光感的问题，皮肤太平整，表情变化幅度比较小，所以误判了。”“磨皮太重了？建议表情丰富一点。”
当前，多个社交媒体平台都早已发布了关于添加“AI生成”标签的要求，除了要求用户主动添加外，依据《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》，服务者提供者也应当对图片、视频等生成内容进行标识。不过平台检测系统把真实内容误判成AI内容也不少见，去年就曾有网友发文表示自己拍摄的照片发布后被打上了“疑似AI生成”的标签，这一组照片为山水风景照，作者有可能进行了一些PS处理，色彩非常的鲜艳，饱和度很高。
这样的内容可能被平台误判成是AI生成的或许与当前所使用的AI识别技术有关，中国工程院院士高文曾介绍了当前AI生成内容技术主要的识别手段，在图像上主要通过光源检测技术来甄别，视频则通过距离深度来判断。中国科学院自动化研究所研究员董晶在接受媒体采访中也提到当前技术上应对生成式AI主要有两种检测方法，一种是基于数据学习的方法，模型收集伪造视频和真实视频作为训练数据集，训练出强大的深度网络，通过识别图像噪点、帧间不连续的运动轨迹等来分辨真伪。另一种是基于特定线索的方法，比如光照不一致、口型和发音不匹配等。
不过这样被动式的鉴别存在缺陷，尤其技术更新迭代很快，甄别难度也会提高，鉴别技术也需要不断的更新，把真实的视频、图像误伤标注成了“AI生成”也在所难免，业内所提倡的要求生成式AI平台让生成内容主动携带不可见的、可溯源数字水印或能更好辅助鉴别、检测软件更好的去伪存真。
扬子晚报/紫牛新闻记者 沈昭
校对 李海慧
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
