深度学习图像算法在内容安全领域的应用

互联网给人们生活带来便利的同时也隐含了大量不良信息，防范互联网平台有害内容传播引起了多方面的高度关注。本次演讲从技术层面分享网易易盾在内容安全领域的算法实践经验，包括深度学习图像算法在复杂场景下的效果优化方案。

 

文 / 李雨珂

整理 / LiveVideoStack

 

大家下午好，我是来自网易易盾的李雨珂，本次我分享的主题是深度学习图像算法在内容安全领域的应用。网易易盾是国内领先的内容安全&业务安全服务提供商，我也很荣幸有机会在这里分享易盾在人工智能方面的实践工作。

我个人前期主要从事电商领域会员营销的算法工作，主要的内容是给不同的用户发放不同类型的优惠券，操盘好几个亿，每天都心惊胆战。近期我主要是在易盾推动内容安全算法优化，也包括了鉴黄、色情识别方面的工作。

 

本次分享主要分为展示AI商业落地案例和分享网易易盾在长期工作过程中的算法优化经验两个部分，人工智能的概念已经火热了至少两年的时间，和热度相比，商业化的落地案例还是相对有限的，很多时候是包装成人工智能的传统技术手段，真正意义上的人工智能深度学习商业化落地点集中在生物识别、互动娱乐等方面。另外在学术界，虽然人工智能，尤其是深度学习方法已经取得了非常大的突破，但在实际工业场景使用的过程中，还是遇到了非常大的挑战。

1. 背景介绍

1.1 互联网内容安全

互联网已经深入生活的方方面面，随着信息量的增加，有害信息在互联网的传播速度也是非常迅速的，尤其是在互联网社交领域。在我们接入的某些客户中，色情内容占比高达10%以上，更可怕的是，一些面向青少年的APP中也存在着非常多少儿不宜的内容。有害内容信息大致包括了色情、广告、暴恐、违禁等方面，以色情信息为例，目前互联网中的色情信息已经不单是单纯的、暴露的色情信息，更多转变成暗示类、隐晦的、打擦边球的三俗信息，这对内容清理来说也是增加了很大的难度。因为从事了这样的工作，见过很多样本，我个人觉得在公众平台清理信息是非常有必要的。

 

在我的印象中，近两年来，尤其是最近几个月，互联网APP下架的消息还是比较多的，这里很大一部分原因是由于用户上传了有害信息，而平台没有及时发现制止，使其产生了传播的作用，进而被监管部门发现导致下架。

实际上，不单单是互联网企业，任何有用户上传内容功能的企业都会面临这一重大安全问题，在海量的数据中发现小量违规内容的确非常困难，而且有害信息涉及的种类繁多，业务定义也非常复杂。作为内容安全的服务提供商，易盾在业务上需要做到向企业提供包括鉴黄、鉴恐等一系列违规内容的识别服务，保证企业内容不出现问题。

实际上，这一问题已经引起了国家各个部门的高度重视，相关的法令也在陆续颁布，对互联网内容治理起到了重要指导作用，也给相关的工作提供了更确切方向。

 

1.2 人工审核与机器审核

对