- 博客(11)
- 收藏
- 关注
RSS订阅转载 AI审核员—人力内容审核的替代者
在当下网络环境中，部分企业面对大量的待审核内容和日益严格的监管条例，内容审核的需求日益增长。因此谛听安全推出了内容审计平台，可以帮助游戏、直播、UCG等行业的公司，通过提供全栈式人工智能技术和方案，让各行业减轻压力，并降低内容审计的劳动力成本。内容审核痛点对于网络平台来说，面对大量的文字、图片、音频和短视频内容，最简单的应对方式显而易见的是招聘更多的审计人员以及时处理新政策法规，但其缺点也很明显：首先，随着平台的扩张和用户视频的增加，审计成本也会不断地累积，纯...
2022-07-22 09:26:44
183
转载 智能审核NLP技术对数字媒体和游戏的应用
人工智能技术的快速发展使得自然语言处理、语音转写、图像识别等技术成熟地应用于大多数的网络社交平台，特别是数字媒体和游戏生产平台的内容审计领域。本文将继续从专业的角度分析主要技术之一：自然语言理解技术。发展自然语言理解技术自然语言理解是人工智能的主要研究内容之一。其目标是学习计算机功能，理解和生成人语言，达到智能处理的效果。随着移动互联网技术、机器学习和深度学习技术的发展，以及数据资源的积累和并行计算能力的提高，自然语言处理的研究方法也发生了巨大的变化，在语音和图像识别领域...
2022-07-22 09:24:30
140
转载 智能内容安全平台的运营维护与分享
随着智能媒体时代的到来，在线内容平台的运营也同样出现了新的问题，包括大数据的收集和应用能力是否满足了发展的需要、如何处理5G环境下知识服务产品的边际成本、如何避免信息茧房的出现以及如何处理内容价值的持续分化等等…5g时代到来，这些问题将不可避免。对于内容制作机构来说，内容制作和管理能力的提高将长期成为内容运营平台自身发展的重要命题。以下三种方法可以在不同的角度出发，提出在当下市面上部分问题的解决方案，可以有效帮助互联网企业降低内容安全方面的维护成本。1.内容精准营销基于...
2022-07-22 09:21:56
133
转载 谛听安全｜内容审核系统的搭建设计思路
对于信息产品和内容产品，内容评审是必不可少的环节之一。审核既是产品风险的控制手段，又是维护网络生态环境的重要环节。本文阐述了构建内容审核系统的设计思路和程序，希望能对大家有所帮助。如果运营同学通过简单的流程梳理，不难发现所涉及的对象包括发送用户、接收用户和内容审核（管理员等）。在设计时有两个方向：一方面简单地考虑对象的处理机制。 在另一方面，考虑关联对象被连接以说明产品设计。用户的信息可以分类为年龄，性别，地理位置，设备，IP地址，使用时间，交易信息，用户发布等。以上信息均属于用户的数据..
2022-07-22 09:20:10
304
1
转载 敏感词运行如何快速搭建—谛听安全
敏感词的风控策略是游戏行业中的风控法律系统中最基本，也是最复杂的。内容虽然简单但非常琐碎，系统主要涉及从用户信息发布、用户举报、命中策略到审核数据处理、用户画像到AI识别等方方面面。本文系统性的整理总结了工作时间以来在敏感词运营管理系统进行搭建一个方面的经验和想法，作为一种自我分析总结回顾的同时，也希望通过分享出来避免其他同学在敏感词运营能力方面少走弯路。敏感词系统是搜索和内容产品的基本风险控制系统。该系统可过滤基本文本敏感内容，灵活掌握敏感词过滤方法，结合业务条线，灵活掌握...
2022-07-22 09:17:12
148
转载 网络流量蜜糖还是陷阱—内容安全的重要性
随着短视频和现场直播的广泛发展，越来越多的网络信息内容产生，紧随其后的是巨大的内容监管压力，但互联网并不违法，违法的是那些部分的阴暗角落里不道德、不守法的行为。近年来，我国在内容安全管理方面，呈现出几个核心特征：1. 监管部门覆盖面广，政策法规逐步完善，各部门在不同领域发布的法规也十分频繁，如网络音视频信息服务管理规定、未成年人节目管理规定、未成年人个人信息网络保护规定等相关法律法规也趋于完善。2. 对于违法违规的相关企业，国家在这方面也很强硬，采取了更有针对性的专...
2022-07-22 09:14:51
119
转载 业务治理流程的风控方法—安全运营心得
在针对黑产的风险控制中，如何找到有效的风险控制方法一直是个难题。笔者结合自身经验，为大家提供了两个切入点:一是基于业务流程思考风险控制方法，二是基于治理流程思考风险控制方法。这篇文章将会从产品和运营管理视角，针对风控的方法和手段可以进行分析阐述，目的主要就是将多年与黑产对抗的经验研究总结和分享出来。一方面，让公众了解一般互联网行业在内容安全方面的努力，以及我们这些站在产品背后的安全人群。另一方面，我也想分享一下我们在与各行业的安全从业人员的对抗过程中积累起来的有效的风险控制方法，我希望能帮助你们。.
2022-07-22 09:11:22
189
转载 UGC内容平台的全栈式内容风控
互联网产业生长得越快，随之而来的风险就越大。针对内容平台，无论是游戏、资讯、社交或视频，都非常轻松地赢得网民的支持(流量激增) ，但随之而来的是频繁的规管检讨和违规行为，例如访问、纠正和关闭。如果将这一现象反过来思考，经济繁荣的表象下，是深深的泡沫，内容产业的繁荣下，是混乱。利益驱动下，黑产自然不会放过内容平台这块肥肉。平台成了间接的作恶工具，自然给企业带来不断的麻烦和损失。2018年4月4日，国家文化广电管理总局进行约谈今日头条、快手以及相关部门负责人，要求其将网站上可以涉及一些低俗、..
2022-07-22 09:08:58
105
转载 人工智能审计
与传统的社交渠道相比，网络游戏社交平台的媒体内容制作模式、沟通模式和组织合作模式有很大的不同，最明显的区别是信息制作和信息传播的分离。目前，主流聚合平台主要负责信息的传播和运营。游戏论坛上的内容种类繁多，内容质量参差不齐，一切混淆视听的负面评论同样也会带来内容风险，也有可能影响游戏子文化的生产。因而上传的论坛内容必须经过审核才能传播，平台的功能内容审计团队对人工智能算法也因此有很大的需求。人工智能审计可以通过机器人文本识别技术标记论坛帖子与评论中可疑的非法内容。结合过滤、召回和删除的手段..
2022-07-01 09:51:21
868
转载 AI智能内容审核
与传统的社交渠道相比，网络游戏社交平台的媒体内容制作模式、沟通模式和组织合作模式有很大的不同，最明显的区别是信息制作和信息传播的分离。目前，主流聚合平台主要负责信息的传播和运营。游戏论坛上的内容种类繁多，内容质量参差不齐，一切混淆视听的负面评论同样也会带来内容风险，也有可能影响游戏子文化的生产。因而上传的论坛内容必须经过审核才能传播，平台的功能内容审计团队对人工智能算法也因此有很大的需求。人工智能审计可以通过机器人文本识别技术标记论坛帖子与评论中可疑的非法内容。结合过滤、召回和删除的手段..
2022-06-29 16:06:43
1668
转载 游戏Ai“鉴劣师”智能内容审核方案
与传统的社交渠道相比，网络游戏社交平台的媒体内容制作模式、沟通模式和组织合作模式有很大的不同，最明显的区别是信息制作和信息传播的分离。目前，主流聚合平台主要负责信息的传播和运营。游戏论坛上的内容种类繁多，内容质量参差不齐，一切混淆视听的负面评论同样也会带来内容风险，也有可能影响游戏子文化的生产。因而上传的论坛内容必须经过审核才能传播，平台的功能内容审计团队对人工智能算法也因此有很大的需求。人工智能审计可以通过机器人文本识别技术标记论坛帖子与评论中可疑的非法内容。结合过滤、召回和删除的手段..
2022-06-29 16:02:17
190
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人