内容审核行业研究：深度解析内容审核的困境与未来

一、“紧”与“松”不是对抗，而是共生

“紧”与“松”的问题，其实是对内容监管趋势以及内容平台生态建设的一个总结。

“紧”可以分为两个方向，一是监管要求，另一个是监管力度。在监管上，从2019年开始，随着数字经济蓬勃发展，以及疫情加速的线上娱乐迅猛攀升，涉黄、涉政、涉嫌违禁的内容日益受到监管重视，并且也细分出隐晦色情整治、电信诈骗内容整治、包括对未成年人的保护等具体要求。这些要求正在逐步弥补各类平台“野蛮生长”时期的规范空缺，对各类风险内容以及过往忽视的新发风险予以关注，实际上也在树立内容生态发展的相关规范。

另一方面，监管力度是监管要求有效性的强力保障，监管要求、监管力度、监管处罚是对应匹配的。所以我们能够看到一些平台因为违规被处罚的新闻，这种监管力度的信号其实就传递出对监管要求执行的坚决度。这两点构成了广义上的“紧”。

从内容平台的角度出发，其实渴求的是“松”。绝大多数的APP其实都在想方设法提高自己平台的内容活性，无论是打造出社区/直播/评论/聊天等等功能，本质目的是创造活跃的UGC生态，让用户在平台创造内容、产生联系、持续活跃，获得畅所欲言的快感或是满足天然的社交需求，这是内容平台渴求的“松”。

“松”看似是一个逆监管要求的想法，但它并不是说触犯红线或逾越红线的松，比如放任用户随意发送色情内容。平台在打造用户体验的同时，同样抱有着最大程度满足合规要求的诉求。在风控上也对红线的基础问题十分明确，希望能及时发现和处置真正有风险的信息。

因此“紧”和“松”并不是剑拔弩张的对立关系，实际上是一种共生关系。

二、纯人审符合直觉，但低效的审核方案

最早出现的审核模式就是人审&