UGC内容平台的全栈式内容风控

互联网产业生长得越快，随之而来的风险就越大。针对内容平台，无论是游戏、资讯、社交或视频，都非常轻松地赢得网民的支持(流量激增) ，但随之而来的是频繁的规管检讨和违规行为，例如访问、纠正和关闭。

 如果将这一现象反过来思考，经济繁荣的表象下，是深深的泡沫，内容产业的繁荣下，是混乱。利益驱动下，黑产自然不会放过内容平台这块肥肉。平台成了间接的作恶工具，自然给企业带来不断的麻烦和损失。

2018年4月4日，国家文化广电管理总局进行约谈今日头条、快手以及相关部门负责人，要求其将网站上可以涉及一些低俗、暴力、血腥、色情等内容的节目需要立即下线。7月，短视频服务行业又迎来一轮最严监管，多达15款短视频App被下架。其中主要包括哔哩哔哩、洋葱视频等用户通过耳熟能详的短视频信息分享学习平台。

2018年，UCG平台最大关注点已经不再是流量，而是法规遵从性和内容风险。Facebook目前在全球有7500名内容审核专家；今日头条的审计团队人数已经超过4000人，预计未来将超过10000人；快手多次采访，要求扩大审计团队，2018年4月宣布，将3000名内容评论员。

当然，除了大平台，小平台也一样，内容风控是当下中国互联网金融业务能力发展最急迫需求也是最棘手的问题。深究其原因是因为UCG平台充斥着大量的广告转移、欺诈性广告，造成用户体验、用户流失、平台损坏。

导流广告和诈骗广告一般被归类为互联网环境中的灰黑产现象。随着互联网行业的发展，网络诈骗无处不在，黑色产业链已经发展成为一个成熟的体系。企业反欺诈面临着黑产技术水平和专业水平不断提高、缺乏全球风险数据支撑、专业反欺诈人才匮乏等现实问题。面对黑产，损失不言而喻。

就算在平台环境中有1万条优秀的言论发布，但一旦出现了1条严重涉及到违规的舆论信息，不仅会导致我国企业面临停摆，更会让股市瑟瑟发抖，令投资人睡不好觉。此前，在被点名、约谈乃至下架制度出台之后，B站股市飘绿，各个企业也不得不将工作内容进行审核上升到战略级高度。

在百花内容盛开的时代，内容风险控制自然已成为每个平台不可避免的发展课题。谛听安全作为第三方服务的优质伙伴，可以为不同行业的用户提高网络环境与运营日活，从内容安全与长期的战略性发展出发，提供优良的服务与质量，让净化网络环境的成本不再高昂。让非法信息的捕捉不再困难。海量的信息和数据处理让人力成本日益累积，因此人工智能技术的加入已经成为最优解答案。

机器智能审计的准确性取决于数据量、算法和模型。当数据量不够时，会丢失数据，当策略模型和算法不准确时，可能会被误杀。人工智能过滤是通过对海量数据的深度学习，利用算法针对特定场景建立相应的分析模型，对不同内容形式的不良内容进行过滤和拦截。