人工智能生成内容扑面来袭 低质量内容充斥网络？

自从去年年底ChatGPT火爆上市以来，大批AI生成内容扑面来袭，文本、图片甚至视频都可以在数秒之内由人工智能模型自动生成。AI虽然智能，但它创造的内容也会有错误，而且这些错误很难被发现，它生成的误导信息非常“狡猾”，这些信息并非依赖对真实世界的体验生产，发现其中的错误需要时间，需要专业知识。

 

随着生成式 AI 的低成本化，越来越多使用爬虫抓取其他网站内容，并用 AI 重新生成信息的“垃圾网站”不断涌出，外媒 NewsGuard 发布相关数据报告，称目前已经追踪到了 大约277个（且还在不断增加）的“垃圾网站”。NewsGuard发现，人工智能工具现在被用来填充所谓的内容农场，指的是世界各地的低质量网站，这些网站炮制大量标题诱饵文章以优化广告收入。

类似的情况也发生在国内，表现形式是AI生成的低质内容。“中文互联网高质量的问答社区和创作者聚集的原创内容平台”知乎，如今成了AI无脑答案的重灾区，不少答主的内容呈现明显的“GPT风”，机器翻译的文字感、混乱的逻辑扑面而来，有时还会出现事实错误，特别是在金融、医学等专业领域，没有经验的人群很容易被误导。有知乎用户使用AI每隔一两分钟就可以输出一条几百字的回答。尽管已经被禁言，但其产生的错误信息依然遗留在互联网中。AI对互联网内容的侵蚀不仅限于文字。在小红书、淘宝、抖音上，越来越多的“AI真人美女”的图片和视频被批量生产，还有大批“AI摄影”类账号的出现。

如果只是用AIGC制造美图供人评鉴、学习倒也还好，但AI生图工具产生的内容开始侵犯直接与人们生活相关的领域。淘宝上，有商家直接用AI生成图来取代商品实物图，一张由Midjourney生成的卡通少女图，被商家打上“绿色衬衫”的标签，售价218元。与之风格相似甚至完全相同的AI生成图，在网上随手就可以找到。现在，专门教人如何用“AI写文赚钱”的课程层出不穷，卖课人号称“一套教学视频跟万能模板，直接套用”。AI话题营造出的失业焦虑中，该类课程受到追捧，曾有人通过卖课月入百万。不过，学会了使用AI工具的人，将AI生成的内容上传到知乎、今日头条或者小红书上，吸引了流量，但也制造了不少低质量、同质化甚至信息虚假的内容垃圾。

随着AI技术不断升级，AI生成内容将越来越具备迷惑性，尤其是专业的知识内容，普通人很难辨别。在AIGC的巨大冲击下，如何不被内容垃圾裹挟、实现人工与智能的良性共进将成为AI下一阶段发展的重要挑战。

相关素材整理于《AIGC“弄脏”互联网 大模型“课本”遭污染》一文