直播实录|如何使用百度大脑EasyDL构建互联网内容安全方案？

如何使用EasyDL构建互联网内容安全方案
时间：2020年6月2日
讲师：百度AI技术生态部高级产品经理 Nathan
【直播回放】
如何使用EasyDL构建互联网内容安全方案：https://www.bilibili.com/video/BV1wA411B7Sb

【课程笔记】

课程大纲

1.背景介绍：互联网安全范围和检查重要性
2.实战演示：如何利用EasyDL定制内容安全方案

首先，关于内容审核的定义。内容审核范围就是我们要对图片、文本、语音、视频合规性进行检查，比如图片像一些聊天、论坛的图片，我们都要对它进行检测，文本包括聊天信息、论坛贴子、弹幕、评论内容，新闻等等这些都算是文本内容。下一步是语音，包括聊天语音，还有电台的语音都要做语音审核。下一步是视频，包括社交短视频，新闻视频，还有直播，这都属于视频的范畴。我们对这些多媒体类型关注维度像色情、暴恐、政治敏感、恶意推广、低俗等，这些是我们内容审核的含义所在。

内容审核现在越来越成为更多企业越来越关心的问题，首先，监管单位针对内容从2019年有三个专项行动：护苗、净网、剑网。护苗就是通过线上线下措施保护青少年的安全，对互联网短视频内容，动画片内容进行审核，防止里面有一些青少年色情的内容。线下内容像针对学校周边的小卖部，里面出现的儿童读物、刊物进行审核，所以护苗行动是覆盖线上线下。第二是净网行动，组织部门就是扫黄打黑办，主要是针对黄色非法内容进行清除。第三是剑网行动，主要针对网络侵权盗版，文章和图片等进行审核。同时我们2019年监管单位有更多完善管理规范，比如《网络音视频信息服务管理规定》、《未成年人节目管理规定》、《儿童个人信息网络保护规定》、《网络信息内容生态治理规定》，这四个规定里有两个都是关于未成年人和儿童的，现在打开一些短视频APP，视频网站，都会有一个弹窗，是否进入青少年模式，这都是在规定里进行的要求，比如要求动画片里面广告时长等，所以我们可以看到，通过一些专项行动和完善的管理规范，现在行业管理法规越来越健全，内容安全问题成为不管是大厂商和小厂商都在重点关注的内容。

内容审核的现状。除了监管单位非常关注内容审核，其实很多互联网多媒体类型的公司，比如一些短视频、长视频公司，论坛社交平台，都有在做内容审核工作，不过现在更多在依赖人工审核。

完全依赖人工审核有几个缺点：

1. 人工审核效率低，一个人一天只审图片只能是一万张，如果图库或者社交类软件，图片量级比较大，就要雇佣很多人。
2. 人工审核成本非常高，像一些短视频APP，人工审核团队1.5万人，这个投入基本要投入9亿元的资金到这里面。
3. 被审核的内容，人工审核时延比较高，不像机器是一个接口，人工要有任务的分发，任务的审核，以及任务最终返回到运营系统，整个流程都要30分钟以上，所以审核的时效性较低。

同时，监管的要求越来越细，越来越严格，我们拿两个点管中窥豹，第一是《网络音视频信息服务管理规定》，这里要求不得利用网络音视频信息传播危害政治安全、社会稳定，淫秽色情等信息，包括侵害他人名誉权、肖像权、隐私权的信息。比如说你上传一些明星照片这些，有一些平台使用了明星的照片，如果没有得到人家许可，这些都是违反了相关的管理规定的，包括这个平台可能会传一些谣言、色情信息都是不可以的。第二个像《未成年人节目管理规定》，第九条未成年人节目里不得包含暴力、血腥、恐怖、教唆犯罪、吸毒、吸烟、酗酒等内容。我们简单看两条管理规定，我们发现管理规定不像以前一个大面，不允许有一些违规的内容，现在对违规内容的定义进行了非常细致的规定或进行了明确。

针对不同的用户或者同一个用户不同的部门，审核规则不太一样。举个例子，像直播业务，像男性性感、女性性感都是需要人工复审，卡通色情等等都需要人工审核。像电视业务部，像性爱玩具，这些都是售卖的东西，还有一些男士内衣等，赤裸上身这些都算是正常的东西，它的审核规则和刚才我们看到的直播不太一样。比如这个平台还有一个论坛板块，论坛里有母婴的板块，比如出现一些儿童裸露，相对预期内的CASE，这些复审一下，如果是正常的儿童裸露都是正常的情况，所以不同的业务部门，针对不同的审核规则，这个是现在的现状。



针对刚才监管单位的审核要求越来越细，不同的部门和不同的审核规则，对于用户挑选一家审核能力比较齐全的公司或者服务商是非常高的要求。但是现在的服务商拥有的基础审核能力，大家通常都会具备，一些细粒度审核能力并不是每家都有，包括自定义人脸库，自定义审核松紧度，自定义黑白名单，包括新审核内容，敏感时期策略自动切换等等，这些能力其实都需要的，但是市面上一些服务商无法同时具备这些功能。

我们总结一下现在人工审核遇到的问题。第一是人工审核成本非常高、效率低、主观性强，比如针对一张图片到底算性感还是色情，可能不同的审核员就有不同的标准，这个就会给后面的结果统计造成很大的负担。第二块是监管和业务审核规则更新快适配难度大，如果监管的规则推陈出新，需要频繁更改代码调整策略，操作成本非常高。还有监管要求检测一个新的类型，比如想实现这样的审核，比如客户已经用了机器审核，要准备大量数据训练这个模型，对客户来说这个成本也是非常高。还有当客户拿到了机审结