内容审核行业研究：深度解析内容审核的困境与未来

数美科技

于 2022-05-16 07:00:00 发布

阅读量1.7k

点赞数

文章标签：内容审核人工审核内容合规

本文链接：https://blog.csdn.net/SHUMEITECH/article/details/124773001

版权

本文探讨了内容审核中“紧”与“松”的共生关系，指出纯人审的低效，并介绍了机审+人审的优势。内容审核面临监管要求与用户体验之间的平衡，人工审核成本高、时效性差，而机审虽有限制，但通过人机结合的方式，如先发后审、先审后发，可优化效率并减轻人审压力。数美科技正致力于通过人性化设计改善人审平台，降低审核人员的心理负担，提升工作效率。

摘要由CSDN通过智能技术生成

一、“紧”与“松”不是对抗，而是共生

“紧”与“松”的问题，其实是对内容监管趋势以及内容平台生态建设的一个总结。

“紧”可以分为两个方向，一是监管要求，另一个是监管力度。在监管上，从2019年开始，随着数字经济蓬勃发展，以及疫情加速的线上娱乐迅猛攀升，涉黄、涉政、涉嫌违禁的内容日益受到监管重视，并且也细分出隐晦色情整治、电信诈骗内容整治、包括对未成年人的保护等具体要求。这些要求正在逐步弥补各类平台“野蛮生长”时期的规范空缺，对各类风险内容以及过往忽视的新发风险予以关注，实际上也在树立内容生态发展的相关规范。

另一方面，监管力度是监管要求有效性的强力保障，监管要求、监管力度、监管处罚是对应匹配的。所以我们能够看到一些平台因为违规被处罚的新闻，这种监管力度的信号其实就传递出对监管要求执行的坚决度。这两点构成了广义上的“紧”。

从内容平台的角度出发，其实渴求的是“松”。绝大多数的APP其实都在想方设法提高自己平台的内容活性，无论是打造出社区/直播/评论/聊天等等功能，本质目的是创造活跃的UGC生态，让用户在平台创造内容、产生联系、持续活跃，获得畅所欲言的快感或是满足天然的社交需求，这是内容平台渴求的“松”。

“松”看似是一个逆监管要求的想法，但它并不是说触犯红线或逾越红线的松，比如放任用户随意发送色情内容。平台在打造用户体验的同时，同样抱有着最大程度满足合规要求的诉求。在风控上也对红线的基础问题十分明确，希望能及时发现和处置真正有风险的信息。

因此“紧”和“松”并不是剑拔弩张的对立关系，实际上是一种共生关系。