关于内容审核中台的产品设计

每个产品设计完成后都需要进行内容审核，一些公司想要对自己生产的游戏内容进行审核往往会选择对接第三方产品。市面上有很多非常成熟的内容审核的服务产品，比如阿里云、腾讯云等。但一些非此领域的公司，如果要对本身产生的内容进行审核，往往会对接一些成熟的第三方产品。

相关技术介绍

1. 文本审核：对于文本的处理主要是采用了NLP（自然语言处理）技术，将语句通过语法分析、情感分析、词向量分析等技术进行识别和归类，再与平台本身的素材库进行比对，返回匹配的结果。比如涉政内容识别、广告内容识别、垃圾内容识别等。

2. 图片审核：图片审核有两种审核方式，一是通过图片的MD5与素材库中的MD5进行比对从而获得审核结果，二是通过CNN（卷积神经网络）技术进行特征提取、各部分特征汇总以及产生分类器从而预测识别来进行审核。

3. 音频审核：音频的处理，是先通过ASR（语音识别）将音频经过降噪、断句处理成文字，然后再通过文本审核对其进行处理。

4. 视频审核：视频审核实则是通过抽帧技术，对视频进行抽帧频率的设定，然后对视频中的图片进行图片审核。或者对视频的MD5与素材库已有的MD5进行比对从而获得审核结果。视频中的音频审核同上。

第三方审核产品平台往往会在签约后提供对应的后台系统和API接口，包括如下的内容：

1. 后台系统

 模版配置模块：根据不同的审核规则，配置不同的审核模版。

 黑白名单：可以将审核平台没有检测到的素材加入黑名单或者白名单进行特殊处理。

 内容模块：对请求的内容和结果进行记录和查询。

2. API接口：需求公司在接入第三方时，需要先在第三方后台配置对应的模版和审核规则，后续通过第三方提供的API接口进行审核调用。

审核公司的模版会提供接入文档，和第三方的产品或技术支持对接审核流程，确定流程。作为游戏行业中专业的内容审核服务方，谛听以成熟的技术过滤能力和完善的产品解决方案领先行业水平，达成游戏审核服务中的领先水平。以云点播的视频举例，需要先进行视频的上传后，才能进行对应的审核，而且审核是以任务的形式进行审核的。此外，模型规则可以中台系统进行处理，如果基于业务规则不同，那么就将规则交由业务系统进行处理。

随着游戏行业的发展，逐渐有很多聊天内容需要过审，又由于这些审核需求高度相似，可能会产生重复的开发建设问题，从而导致复用性低、产能和资源浪费。因而一个产品化的审核中台服务是非常有必要的。

中台作为业务服务的提供方，不需要过度依赖业务，而是需要不断为新业务提供能力支持。选择一家成熟的内容审核第三方，做到懂内容安全，更懂用户需求。
————————————————
版权声明：本文为CSDN博主「谛听安全」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/Diting2020/article/details/126367694