AI智能内容审核

与传统的社交渠道相比，网络游戏社交平台的媒体内容制作模式、沟通模式和组织合作模式有很大的不同，最明显的区别是信息制作和信息传播的分离。

 

目前，主流聚合平台主要负责信息的传播和运营。游戏论坛上的内容种类繁多，内容质量参差不齐，一切混淆视听的负面评论同样也会带来内容风险，也有可能影响游戏子文化的生产。因而上传的论坛内容必须经过审核才能传播，平台的功能内容审计团队对人工智能算法也因此有很大的需求。

 

人工智能审计可以通过机器人文本识别技术标记论坛帖子与评论中可疑的非法内容。结合过滤、召回和删除的手段去除一些明显的错误内容（或标记一些可疑的错误和模型内容，之后与人工审计团队合作判断）。当标题、关键词或基本语义词错误时，机器算法将对这些数据进行评分，评分超过一定阈值，将标记不同颜色的错误或分组。

 

ebd71cf9ecbb442e3f390a2407fc2024.png

 

1. 文本识别标记

 

文本识别技术主要基于算法，操作和审计人员不断更新关键字库，输入相关非法内容，通过算法技术不断培训，提高机器判断的准确性。这一步主要是在论坛内容发布前后通过风险模型对信息进行监控和过滤，并根据不同类别的低质量模型等技术检查内容中可能出现的失范问题。

 

2. 风险内容识别

 

与文本识别技术不同，风险内容识别不仅基于对内容本身的分析和判断，还包括一系列后续行为，如论坛媒体传播后用户的反馈、赞、踩、分享、报告等。

 

风险内容识别不仅会在论坛帖子发布前判断内容，还会在发布后实时进行监控。因为如果没有风险内容识别技术对发布的信息内容进行二次识别和监控，导致内容广泛传播，可能会对平台本身产生不良影响，甚至被要求平台整顿等问题。

 

因而风险内容识别技术是可以支持内容传播过程中的反馈，删除不良内容和言论，抑制和减少低质量内容，以确保内容在审计和发布后是合规和合法的。

 

利用算法审计技术，可以基本判断和识别平台每天生产的数百万信息内容，确保所有论坛中的内容都经过审计流程。如果算法审计技术没有发现内容异常，且发布帖子的账户级别权益较高（在过去，没有非法历史），帖子所发布的内容可以跳过人工审计阶段，直接由游戏论坛平台发布。

 

一般来说，随着算法技术和培训模型的不断优化、培训文本的不断增加，人工智能算法内容审计技术将不断提高准确性，场景的应用也将不断增加。算法审计技术的发展简化了审计从业人员对新闻内容的判断，有效提高了审计效率，减少了内容的积压，确保了内容的快速发布和传播，降低了人工审计的成本和压力。

 

凭借多年的审计产品运营经验，国内优质内容安全平台谛听安全积累了大量的数据，具有更全面的审计维度和行业领先的过滤能力，为游戏厂商获取内容提供更可靠、更高质量的内容审查与风控管理。

 

大数据网络安全

来自专栏

内容审核

 咕咕咕60204527 1篇文章 0人订阅

 

游戏

 咕咕咕60204527 1篇文章 0人订阅

 

内容运营

 咕咕咕60204527 1篇文章 0人订阅

 

发布于2022-06-29

著作权归作者所有

相关推荐更多

好家伙！AI内容审核这么强！

Amusi（CVer） 488 阅读 0 评论

 

人工智能AI技术如何在视频领域应用落地？

阿里云Edge Plus 7504 阅读 0 评论

最新发布 “数字孪生”技术与 AI 技术的融合应用

向着太阳往前冲 3441 阅读 3 评论

 

如何为游戏插上人工智能的翅膀？

AImatters 172 阅读 0 评论

人工智能算法审核技术在新闻聚合平台审核中的高效应用

Leon-FHF 121 阅读 0 评论

 

热门推荐 人工智能在生活中的应用都有哪些？

喜欢打酱油的老鸟 3万+ 阅读 1 评论

 

游戏AI”鉴劣师”智能内容审核方案_北街未雨的博客

对视频文件或直播视频流进行图像和音频审核,可应用于视频直播。它将实时自动审核视频和直播的截帧图像,检测出社区用户的违规内容。 3. 文本审核: 基于自然语言理解、深度学习等技术,在游戏社交平台中检测弹幕、社区论坛信息等,一旦发现用户...

从云到边缘!Imagination NNA实现AI应用的高效开发和部...

本次会议上,Imagination中国区战略市场与生态高级总监时昕带来了题为“高效开发和部署AI应用——从云到边缘”的演讲,从AI芯片的发展趋势,Imagination Series3NX NNA的特性和优势,Imagination NNA和GPU协同工作以支持AI应用等方面进行了精彩...

上线视频推理服务 使AI应用更高效_爱奇艺技术产品团队...

上线视频推理服务 使AI应用更高效 写在前面 在爱奇艺视频图像增强项目中上线视频推理服务,通过优化将处理速率提升了10倍,GPU利用率稳定在90%以上。本文通过分享视频推理服务解决方案,帮助为解决利用率低的问题相关从业者提供一些思路。

...Core HiAI Foundation助力AI应用高效开发_华为移动...

随着新技术的不断演进,人工智能已经广泛地应用到教育、金融、物流、零售、交通、医疗等各个领域。而在AI高速发展的当下,高效开发变得更为重要,如何将创意想法与AI技术深度融合,迅速转化为可落地的AI应用,是开发者在激烈竞争中制胜的关键...

AI应用丨制造走向“智造”,开启高效低耗新时代(下)_百...

上期我们谈到了,在生产相关场景下,制造业如何应用AI获得最大的效益,这期,我们将针对制造业的另一个关键环节:运营,来阐述AI的价值。 在经济全球化的浪潮之下,制造企业的组织和业务模式正在悄悄发生变化。如何满足市场需求,同时降低相关生产...

AI应用 | 制造走向“智造”,开启高效低耗新时代(上)_百...

在模具生产中,企业应用了百度智能云的AI训练一体机,可以实时采集数控机床上的刀具磨损的状态数据,建立基于深度学习的模型算法,对刀具更换提前预测,自动补偿。这些原本需要人工完成的操作现在被人工智能所替代,使每条生产线所需的人工下降了...

物联网-智慧交通-JIT在秦皇岛港煤炭运输生产管理中的应用研究.pdf

programhh 0 下载

2021爱分析·中国人工智能应用趋势报告——新基建助推，人工智能应用迈入新阶段

ifenxi爱分析 1万+ 阅读 0 评论

 

MATLAB实现SSB 的调制解调模拟，包括时域，频域，功率谱，加噪 上传版本.zip

Matlab科研工作室 0 下载