关乎游戏生死的“内容战争”

近年来，“网络并非法外之地”这句话的应用场景越来越宽泛， 侧面反映了当今网络信息处于爆炸式增长的时代，违法和不良内容正在严重威胁网络生态健康。

国内政策监管的规范，网络信息内容生态治理规定和未成年人保护等措施的推行，要求游戏厂商对自身的内容安全注入更多的精力，加强对游戏内容安全的管理。

然而，无孔不入的违规信息对健康用户的蚕食，以及部分app厂商对违规内容的的轻视，导致一个又一个app下架的真实案例前赴后继地出现。

而对游戏厂商而言，内容安全更是需要厂商尤为重视，一旦违规，游戏生命可能便会戛然而止。可以说，内容安全，是关乎游戏生死的“战争”。

目前游戏的内容安全主要面临的难题和挑战可以简单概括为三个关键词：庞大，复杂，多变。

量级庞大

恶意内容的量级非常庞大，数以亿计。并且形式也很多样，其中包括但不限于文字，图片、语音等。

据《2021游戏安全白皮书》显示，2020年腾讯游戏安全检测的游戏内文本量达28045亿条，拦截掉303亿条恶意文本信息；图片审核约909亿张，打击了728万张恶意图片。

复杂多样

除了游戏玩法内容本身，其他的违规信息一般是经由玩家发出的内容，通常的违规内容包括色情、诈骗、广告、辱骂等不健康内容，其他危害分裂国家、损害国家形象破坏社会稳定或其他违规信息。

另外，不同游戏类型的面临的违规内容类型也不尽相同。

• 所有游戏类型缺乏管控时，均容易出现色情低俗及涉管控类内容；

• MOBA游戏更容易出现辱骂类违规信息；

• 射击类游戏更容易 出现外挂广告和辱骂类违规信息

由于形式多样，所以违规信息涉及到的场景也非常多，文本类违规信息主要出现在昵称、聊天窗口、邮件、弹幕、房间名、邮件里，甚至更隐性的会出现在名片签名里。而图片类违规内容主要出现在头像、相册、动态、空间、群聊、社区内。

迭代多变

为了躲避系统检测，违规信息也一直在更新迭代。黑产们尝试用谐音字、象形字、文字加拼音的方式绕过检测。同时因为一些新闻时事，会出现某些特定“地域黑”敏感词汇，对于这些变种信息和不可控因素造成的违规内容，想要及时打击，就需要实时地、不停地完善敏感词库，更新检测系统来对抗。

游戏内拉人也成了比较突出的问题，黑产会用比较隐讳的方式将玩家引流至其他游戏，如若不对这种行为加以控制，那么游戏的生态将会受到影响。

恶意内容常见形式——违规文本

过去很多年，文字类的违规信息最为常见，这些违规信息，主要出现在昵称、聊天窗口、邮件、弹幕、房间名、邮件里，甚至更隐性的会出现在名片签名里。

（违规信息主要出现场景）

中国汉字博大精深，千变万化，对于文本类的违规内容要想获得良好的对抗效果，违规信息数据库越庞大越好，这样在提供保护方案时，覆盖面就更加广。

腾讯游戏安全内容安全保护方案，基于腾讯数百款游戏业务数据训练模型，为游戏场景定制的检测方案，同时具备覆盖全面的敏感词库。

腾讯游戏安全基于深度学习技术，检测和识别文本中包含的涉政、色情低俗、辱骂、暴恐、广告等恶意信息。同时支持关键词配置，打击自定义违规内容，从而节省审核人力，有效规避业务风险。

除了覆盖正常的违规文字，腾讯游戏安全在识别变体文字上的能力同样强大，再隐晦的违规信息在方案覆盖下，依旧无所遁形。

（变种文字内容示例）

恶意内容常见形式——违规图片

（图片类违规信息示例）

随着对违规文字的检测力度增强，有玩家对自定义图片打起主意，对于图片类的违规内容，腾讯游戏安全依托机器视觉图像处理技术自动检测图片，识别涉黄、涉恐、广告等违规内容。

同时支持图片相似度拦截，打击自定义的违规图片。还采用多种先进算法辅助识别图片内容，全面有效的降低漏判、误判的情况。

（图片文字检测能力）

恶意信息常见形式——违规语音

腾讯游戏安全违规语音检测方案，在腾讯10多款游戏里上线，2020年一共审核了61亿条语音数据，处罚了1.6亿条非法语音。业界领先的语音检测技术，可以通过关键词唤醒、说话人识别，音转文等能力，有效规避游戏语音违规问题。不久后，我们也将对外上线此功能。

强大的后台配置——便捷+定制化+数据可视化

在面对海量冗杂的违规信息时，快速、准确地查询到相关信息同样至关重要。腾讯游戏安全的一站式运营平台能有效解决此类需求，一站式运营平台支持全维度检测数据统计、恶意明细查询、用户流水查询。提供的违规信息内容明细查询，违规信息数据可视化等功能帮助企业实时观察游戏的内容安全环境。

（违规信息可视化图表）

为满足精细化运营需求，平台还提供了场景管理界面功能，该功能可根据游戏实际业务场景进行注册，便于分类查看检测数据。同时支持自助按场景配置需要检测的恶意类型, 深度定制审核策略及方案。

（接入场景管理流程图）

一款优秀的游戏内容安全产品需要强大的数据支持及专业技术能力的不断加持，相比采用通用的内容安全产品，腾讯游戏安全的内容安全方案，具有更为专业和垂直的特性，能为游戏厂商把好内容安全的关口。