谛听安全内容审核基础：审核方式与审核流程

对于社交类产品和内容产品来说，内容审核是必不可少的环节之一。借助人工智能的发展，可以让机器替代一部分审核工作，但由于内容的复杂性，人工审核必不可少，而且还有其他需要考虑的点。这篇文章谛听安全将讲解内容审核的方式与流程，希望能对你有所帮助。

 

何为内容审核？

简单来说就是：对用户在社交平台上上传、发布或共享的内容（文字，图片，音频，视频）进行审查。其主要目的是对低质庸俗的内容进行过滤筛选，从而生产高质量的内容、防止降低用户体验、保持良好的内容调性。

而在这个过程中，平台会对于内容有一个专业的标准作为参考，这个时候有一个很大的问题就是人工筛选效率低，而且成本大。所以很多内容平台采用了算法进行过滤，通过人工和算法的有效结合来提升效率。经过过滤后的内容基本上能保证无害，即使质量不高，但也不存在风险问题。这时企业就会面对选择是先发后审还是先审后发：

1. “先发后审”：即用户先发表UGC内容，再经过审核；

2. “先审后发”：即用户提交UGC内容后，先经过审核，审核通过后才能发表上线。

“先发后审”和“先审后发”的适用场景：

“先发后审”：适用于对发表内容时效性要求较高的场景，如阅读、游戏等场景下的用户评论，此时用户发表评论更多出于即兴，因此从用户的角度考虑，希望自己发表的评论能够马上看到成功、有效。比如：游戏世界频道发言。

 “先审后发”：适用于在社区、论坛、新闻平台等场景下发表文章、观点、讨论等，此时对于平台方来说需要对内容负责、并构建权威性，因此通常要审核后才能发表。比如：抖音、知乎。

不管是什么内容的审核，都应该包含以下四个基础模块：机器审核、人工审核、用户投诉审核、结果复审。

1. 机器审核：按照制定好的规则或机器学习算法对内容进行审核。通常，成熟的谛听安全审核系统能将99%以上的内容都自动审核并做出处理。确定有问题的会被自动删除，难以判断是否有问题的会被标注，进入人工审核程序。

2. 人工审核:虽然用户投诉审核和结果复审大多时候也是人工审核，但这里所说的人工审核，特指审核机器无法判别的内容，通常占平台内容数量的比例不超过5%。在内容爆炸的时代，许多平台企业在全国都有多个审核中心，每个审核中心的员工数量都成千甚至上万。

3. 用户投诉审核：是前两者的弥补，由于有很多违规内容以前没有出现过;所以不在规则可以过滤的范围内，或者非常隐蔽，规则难以严格过滤。因此，用户的投诉是发现新问题的重要渠道。

4. 结果复审：通常采取抽查方式。比如通过复审机器删除的内容，看规则或算法是否过于严格；或通过查看人工删除和通过的内容，看员工的工作是否按要求执行；又亦或是通过内容的整体巡查，看是否存在新的问题未被注意到。

以上基本是需要了解的点，并非所有内容都需要人工审核，只有算法和策略识别出的可疑内容在层层筛选后会交由审核团队进行处理。因此，具有人工智能技术的内容审核在市场上逐渐被行业所接受和采纳，只有将技术与人力相结合，内容安全领域才会在成本控制中得出最优解。
————————————————
版权声明：本文为CSDN博主「谛听安全」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/Diting2020/article/details/126250267