一文解锁BILIBILI、ACFUN等弹幕网站是如何审核视频

欢迎访问网易云社区,了解更多网易技术产品运营经验。


人工审核对于A站和B站都是很重要的。


AcFun稿件审核通行标准(V1.1) 表明,要审核的东西非常多,除了内容本身的合规性、调性,还有画质音质、撞车问题、视频信息问题等,而A站也确实采用人工审核。


B站审核情况参考:从B站、爱奇艺、映客的IPO上市,看国内视频公司的内容审核现状


再说说视频网站审查内容的一般思路:


视频网站的内容审核工作主要有两个目的,一是合规,二是版权。其中合规问题涉及面更广,包括色情、暴恐、涉政等。当然内容还要符合商业价值的需求,或者说合乎网站定位,比如广告、谩骂等就很影响用户体验,影响商业变现。视频网站通常都通过技术手段与人工审核相结合来完成审核工作,不管是先行过滤还是标注某些内容让审核人员重点关注,审核系统都不可或缺。非直播内容,都是先审后发。另外,举报通道和快速处理也是必备的。


视频审核是一个难点,但视频网站要审核的不只是视频,还包括用户头像、昵称、签名、标题、简介、封面、标签、评论、弹幕、站内信等各种用户可以自行输入的图像/文本内容。这项工作如此复杂,审核系统需要全能、有策略、有进步,才能保证审核效率及准确性。


  • 全能就是要通过各种算法搞定文本、图像、音频、视频等不同内容介质,以及色情、暴力等不同违规类型。这一点,人工智能的进展提供了有力的武器。参考:人工智能是如何识别一张黄图的?

  • 策略不仅是通过正则表达式、智能算法对付内容本身,还要通过IP、终端、邮箱、手机号等信息识别用户的危险程度,进而做出不同处理,比如限制发布时间间隔。注意人工智能可以依靠,不能依赖。

  • 进步是因为黑灰产总会设法试探并突破现有系统的防御,比如曾有一些小语种、伪低幼的攻击绕过 YouTube 审核的案例,运营人员和算法工程师需要合作不断去完善系统敏感词库、逻辑及算法。


总之,成熟的审核系统,成熟的审核团队,应用场景的覆盖,都是身经百战练成的。


网易云易盾智能反垃圾服务,基于网易20年专业的反垃圾经验,以及积累的亿级别的海量数据,为客户提供极速智能的广告过滤、智能鉴黄、暴恐识别、涉政检测云服务,助力打造互联网纯净内容生态。欢迎免费试用


相关文章:
【推荐】 使用Phaser开发你的第一个H5游戏(一)
【推荐】 【网易严选】iOS持续集成打包(Jenkins+fastlane+nginx)
【推荐】 交互设计师如何做运营需求-以网易严选邀请新人功能设计为例

没有更多推荐了,返回首页