概论
内容风控是每一个具备UGC功能应用所必须的,主流社区中内容风险约占业务风险总量的10%-20%,控制好内容风险,对应用的用户体验也会有所提升。目前主流的做法是对内容进行分级分类,然后对各个分类进行识别。主流的内容风险,有以下几种
- 核心分类:涉黄、涉政、违禁、暴恐、谩骂、广告、灌水等。
- 专项分类:未成年、低价值、多语言、广告法、商标法、饭圈等。
核心分类
核心分类主要介绍下涉黄、广告。
涉黄
涉黄通常是ugc中最常出现的问题,主要原因是黑产较为成熟,交易简单。黑产通过在社区发布涉黄的导流信息,将用户转到微信、qq等平台,然后再进行付费及购买资源服务等。
涉黄问题所面对的是很专业的黑产团队,因此对抗也是很强烈的。
广告
广告和用户体验一直是社区需要权衡的问题,不过这里说的风险内容广告,一般指未通过官方渠道传播的广告内容,此类广告大多诱导性强,存在诈骗比例很高,这类内容也是需要严格管控的。
专项分类
随着业务发展和社会环境