谛听安全互联网广告内容审核——人机联动

首先，什么场景需要人工审核？对于机器无法准确识别的内容，都需人工审核进行确认；通常机器审核和人工审核的量级约为9:1，对于日均量级上亿的内容产品上，人审日均量级也达到百万级，同时满足时效性要求和审核质量无疑是很困难的。因此在实际业务中，根据不同产品的形态，建立不同的人机联动审核机制，才能最大化满足审核诉求。

先审后发是早期审核采用的模式，要求全部内容均通过完整的审核流程后允许上线分发，用以保证风险最低、质量最优。通常对于商业广告，高风险行业或客户必须采用先审后发机制，来避免风险的发生；对于重质量的内容社区，也需要经过完整的审核流程才能进行发布。

而待审内容都先通过机器审核；当机审输出结果达到阈值，准确度可信时，按机器审核结果通过上线或直接拒绝；当机审输出结果未达到阈值，给出疑似风险的判断，推送给人工审核进行最终确认，按人审结果通过上线或直接拒绝。

 

对于先审后发机制，不断提升机器审核的准确率，将会大大减少人工审核的工作。

对于海量的内容，全部采取先审后发机制无法满足内容分发的时效要求。近些年兴起的先发后审机制，可以帮助解决这部分问题。

对于商业广告，可以选取低风险行业或客户，允许先上线分发，帮助其短时间内获取更多流量；对于时效性要求高的内容产品，如评论、视频弹幕等，快速上线展现，满足其实时发布需求。

在审核业务中，先审后发和先发后审两种机制也通常组合运作，灵活调配，以最小的成本实现风险控制，满足审核时效要求。

第一步：待审任务灌入审核任务池，等待被分配。

第二步：根据审核组长或管理人员配置的权重，自动分发相应比重的任务，进入审核员任务列表，审核员可以开始审核；通常分配权限需支持灵活配置，如支持审核员请假等场景。

第三步：对审核任务池和审核员任务列表实时监控；如出现任务池任务突增，需加快分配至审核员任务列表进行审核；如审核员任务列表剩余任务不足，任务池主动进行分配；通过这样动态分配的方式，保证审核员有充足的任务，避免任务积压。

实际审核任务分配可以基于此基本方法进行变换，满足不同场景的审核需求。