图普智能内容审核系统 | 如何高效筛滤违规新闻资讯

如今正处于信息爆炸的时代，人们更习惯于通过智能手机获取最新的新闻资讯内容，各平台用户对资讯信息的需求日益增长，网络自媒体由此多样化发展，其中内容涵盖娱乐生活、社会热点以及财经资讯等各个方面。

网络自媒体平台中的内容多由用户自发上传，具有很高的自主性，内容尺度相对宽松。但另一方面，降低门槛鼓励个人用户进入自媒体行业带来的副作用，是网络自媒体平台的文章质量良莠不齐。在这种前提下，如何对文章内容的审核筛选、剔除低质量信息以确保营造积极向上的阅读环境？是平台管理工作中的关键问题。

然而，当下每天产生的资讯文章可达百万篇，采用传统的人工审核方式，不仅将面临较高的人力资源成本，且无法在保证信息时效性内完成发送相关资讯。由此，采用AI智能算法进行图文内容审核的方式，是解决上述问题的有效方法。

营造一个更加良好干净的阅读环境，将低质量的新闻资讯过滤掉，内容审核系统是必要的。AI智能算法可将相关机器学习算法进行落地，应用到相关实际的业务场景中，实现智能地将垃圾、低俗、不符合要求的新闻文章自动送达给审核人员去审核，进一步实现对媒体平台发布的新闻文章等资讯内容的管理，提高公司内相关内容审核人员的工作效率，节约人力资源优化运营成本。

实际应用方面，AI智能算法常作用于以下板块的内容审核（包括但不限于）：

文章政治敏感程度

若文章内含有描述危害国家社会安全稳定的内容时，则会被机器学习相关算法模型识别为政治敏感类文章。

文章低俗色情程度

针对标题、内容和文章所附带的图片进行色情程度的识别，综合各识别结果得到一个综合低俗色情程度的预测。

文章广告营销成分

对文章文字内容进行是否是广告营销文的识别，同时对文章内附带的图片进行检测是否存在宣传广告的矩阵式二维码。

根据线上测试结果表明，在AI智能内容审核系统上线后，各类违规文章的数量相较于系统上线之前，数量明显减，阅读环境得到有效改善。AI智能内容审核系统对于降低自媒体平台运营管理成本、维护良好互联网舆论环境有不可忽视的意义。

早在《新一代人工智能发展规划》中，就将发展人工智能技术提升到国家战略层面。此后，各大网络平台由此探寻通过AI智能内容审核系统过滤平台内容的应用，国内前沿技术企业图普科技与多个头部网络平台达成合作，先进的深度学习技术和海量数据样本，可精准高效过滤色情、涉政、暴恐、广告、谩骂等违规内容，不仅能够有效提高审核效率，降低人工审核成本，同时能在确保文章质量的同时兼具时效性。