- 博客(42)
- 收藏
- 关注
RSS订阅原创 分析人工智能审核优点及智能审核原理
伴随着人工智能的发展，市面上已有很多基于人工智能的项目开始落地使用，比如人工智能检测，智能审核等。此外，人工智能审核系统还具有可扩展性。随着技术的发展，人工智能审核系统可以不断完善，从而检测更多类别的违规内容。2. 精准审核：人工智能审核系统可以通过学习大量的样本数据，从中提取特征并进行分类，因此具有很高的审核精度。3. 高效审核：人工智能审核系统可以通过自动化的方式审核信息，不需要人工干预，因此可以提高审核效率。1. 快速审核：通过机器学习算法，人工智能审核系统可以快速审核大量的信息，比人类审核员更快。
2022-12-19 14:17:01
1046
1
原创 涉政问题对社会的危害，行者AI告诉你，为什么要做涉政检测
行者AI致力于AI领域的发展，为企业解决各种行业问题，针对涉政检测，推出内容违规检测系统，能够精准识别用户所发布的不当言论，对文本信息中包含损害国家利益、谣言、影响社会秩序等政治敏感内容进行审核处理，保障企业及平台的运营安全。在这个信息高速发展的时代，一个文字，信息，可以在短时间遍布全国，同时也会给平台造成压力，一不留神，平台就会因为某些言论受到处罚，特别是对于涉政言论，更是非常严格，下面就让行者AI告诉大家平台为什么要做涉政内容检测。
2022-12-08 14:28:15
2892
原创 在抖音及一些直播上，如何进行违禁词在线检测呢？
随着直播行业的兴起，越来越多的网红主播纷纷加入，平台的审核能力也面临着巨大的挑战，相对于平台的严格监管，很多主播也需要进行深层学习，避免在直播中出行违规。其实很多主播在直播前就有过培训了，比如一些词是不能直接在直播中说的，虽然经常避免，但是难免会违规，所以可以通过一些工具进行违禁词在线检测，也可以对拍摄的视频文案进行违规检测，这样不仅既可以避免限流，还可以曝光流量。说白了，关于违禁词，一个不注意，轻则限流，重则封号。而之前有一些大V进行过测试，为了验证网友的结论，在直播间对一些词进行
2022-12-07 17:30:50
3830
原创 行者AI解析内容审核平台中的图像检测技术原理
近些年，监管部分对于平台的信息方面，越来越严格，继而有很多企业选择智能AI内容审核服务，帮助企业快速处理平台上一些违规内容。很多人不懂这方面到底属于什么，今天行者AI就来为大家解析在内容审核平台里面的图片审核原理是什么。 相比较技术而言，文本审核的难度较低，可以通过关键词识别及NPL模型训练，语义分析等，并快速识别文本是否违规。而图片内容审核则相对复杂，也导致很多不法分子利用此方法，将有害不利信息做成图片进行推广，这样就会大大的增加平台对审核的难度。行者AI致力于为平台创造更好的内容审
2022-12-06 11:00:29
871
原创 舆情监控系统有哪些功能，行者AI告诉你
近些年，越来的越多的企业都选择使用舆情监控系统，毕竟舆情会影响企业的走向，那么舆情监控系统包含哪些功能呢？
2022-12-01 15:00:15
459
原创 互联网跟帖评论有新规，内容审核平台也要加强防范
最近，为了规范互联网跟帖评论服务，维护国家安全和公共利益，保护公民、法人和其他组织的合法权益，国家网信办发布《互联网跟帖评论服务管理规定》。
2022-11-30 14:20:06
375
原创 信息时代，智能审核发挥什么作用？
在大数据的网络信息时代，越来越多的数据需要审核，类似抖音的视频审核，到企业的平台内容审核，再到公司的一些信息审核，都是涉及到智能审核
2022-11-24 15:31:37
509
5
原创 舆情监控究竟是什么？怎么运作的？
随着互联网的加速变化，舆论已成为影响国家政治、社会生活和公众情绪的重要因素，也是影响企业形象和长远发展的重要因素。
2022-11-17 17:00:40
665
10
原创 文本检测，保障平台内容安全，帮助企业全面规避业务风险｜行者AI谛听
随着互联网的飞速发展，文本作为信息传递的重要媒介，成为了互联网大数据的重要组成部分之一，文本识别与检测技术也成为学界业界的研究热点。
2022-11-16 10:46:23
395
1
原创 什么是合规性测试？如何进行合规性测试？
产品开发所有的功能都应该按照预期的那样工作，应该提供产品的文档和用户手册，以帮助理解和重新检查合规性。而在线支持和文档，，应该始终保持最新版本，功能和集成测试应该是完整的，并且应该满足退出标准。升级矩阵应该与开发、测试和管理团队的联系点一起提供，所有的许可证都应该是最新的。为开发生命周期的每个阶段创建并记录了一组标准和程序，必须将每个阶段的可交付成果与标准进行比较，以确定潜在的差距。，它是一种非功能性测试方法，用于确定构建的系统是否满足组织的既定标准，又被称为*“一致性测试”。
2022-11-15 15:54:46
878
5
原创 在游戏反外挂中，智能AI有什么优势？
随着游戏行业的快速发展，用户量的增加，让很多游戏厂商赚的盆满锅满，但是随之也增加了很多让游戏厂商担忧的情况，比如灰产之类的，小广告频发，还有一些外挂类，所谓有攻就有防，行者AI根据游戏行业的一些痛点，打造专为游戏行业的反外挂解决方案。游戏解决方案通过大量的数据特征，帮游戏厂商识别通过脚本产生的账号，打击脚本工作室，也提供反外挂技术，帮助游戏厂商解决透视挂，一些修改攻击力数据等外挂，致力于保护游戏的公平性和挽回厂商的损失。
2022-11-09 10:19:18
246
5
原创 市面上这么多“内容安全管家”究竟该怎么选择？行者AI告诉你
在企业平台运营中，大量用户发布的内容都或多或少存在一些问题，容易造成问题及企业的负面新闻，往往很多平台都会采用一些内容安全管家之类的解决方案，但是市面上这么多产品，怎么去选择呢，内容审核系统应具备什么条件呢？
2022-11-08 15:18:28
934
5
原创 游戏企业如何高质量出海？如何保证出海内容合规
近三年来，各国监管机构于出海游戏公司的合规要求越来越高，出海合规整体是围绕着运营合规而来的，而并非如外界所想，“合规”就仅仅等于“符合法律法规”。事实上，合法仅仅是出海合规的一个层面，熟悉法律和政策是最基础的，最难的是了解不同国家的差异化。
2022-11-03 10:41:24
1820
原创 面对海量内容，如何快速完成视频内容审核？
在面对巨大的内容审核压力之下，基于人工智能的智能审核系统被广泛用于各类内容的审核和标注。但是，技术水平通常会限制评估错误。为了减少误判，各个研发公司都尽最大努力优化人工智能模型，以提高检测的准确性。 行者AI谛听致力于打造这样一个智能审核系统。
2022-11-02 15:58:24
1031
原创 内容安全是什么？（如何严控内容安全）
那么什么是垃圾违规内容呢？顾名思义，就是不符合产品定位的信息可以称为违规信息，就包含一些无意义的刷屏，广告，非法信息，例如一些违法犯罪的词汇，而这些内容如果没有审查好，都将受到监管部门的惩罚。对于普通公司而言，自建内容审核平台以及持续的技术投资，都会增加企业的压力，因此可以将内容保护功能对接到谛听,在减少成本的同时增强网络净化能力。其实对于靠内容输出的平台，就要有一个意识，那就是内容安全是企业的命脉，所以一定要提高内容审查方面的水平。违规内容多种多样，这对于一些平台来说，打击垃圾内容是一个巨大的挑战。
2022-10-28 10:25:36
503
7
原创 广告词检测对运营的应用场景
作为一个运营角色，特别是针对企业中的产品运营方，很多时候为了凸显自己产品的优势，在宣传上就会使用一些‘独家’，‘国内领先’等等词汇，但是这会导致企业宣传的广告因用词不当而违反广告法。那么什么是广告法？
2022-10-27 18:22:12
490
8
原创 AC算法在文本匹配中的应用｜谛听安全智能审核
在工作中需要对一些违禁词进行拦截，实际应用场景中，需保证匹配过程在数百毫秒内给出结果。因此，如何快速，准确的识别文本中是否包含了这些关键词就变得尤为重要。
2022-10-20 18:27:04
158
11
转载 接口自动化传值处理
在接口自动化测试过程中不仅仅有单接口的测试，场景测试也必不可少，这就造成接口与接口之间存在传值问题，下面介绍一下在 pytest 框架下怎样进行接口传值处理。
2022-10-15 11:43:29
226
14
原创 从B站审核变慢现象，聊聊谛听安全内容社区产品的内容风控
B站是中国年轻世代高度聚集的文化社区和视频平台，近年来更是财报喜人。不过它最近却受到UP主对审核速度以及审核机制的吐槽。这背后有什么深层原因呢？本文从产品和商业角度对此追根溯源，同时也试着分析一下内容社区产品在内容风控策略上的一些要点。
2022-10-09 10:32:24
540
17
原创 Facebook、YouTube都会遇到的内容审核难题，今日头条是怎么解决的？
截止到2022年，Facebook全球月活已经突破27亿，Youtube是20亿，微信也超过13亿，可以说互联网已经覆盖了全球大部分人口，而随着使用人口同步激增的还有用户时长，以及内容的生产消费量级也呈指数级井喷，这海量的内容无论对大平台还是小公司都形成了巨大的管理难度和审核挑战。除了传统的图文类内容，音频、长视频和短视频，以及直播的比例在不断增加，这对于那些那些既追求实时性（发布速度和用户体验）、又追求不出问题（举报率和负面事件）的内容平台审核管理，提出了巨大而严峻的挑战。
2022-10-08 09:33:58
532
18
原创 谛听安全互联网广告内容审核——人机联动
通常机器审核和人工审核的量级约为9:1，对于日均量级上亿的内容产品上，人审日均量级也达到百万级，同时满足时效性要求和审核质量无疑是很困难的。因此在实际业务中，根据不同产品的形态，建立不同的人机联动审核机制，才能最大化满足审核诉求。通过这样动态分配的方式，保证审核员有充足的任务，避免任务积压。第二步：根据审核组长或管理人员配置的权重，自动分发相应比重的任务，进入审核员任务列表，审核员可以开始审核；在审核业务中，先审后发和先发后审两种机制也通常组合运作，灵活调配，以最小的成本实现风险控制，满足审核时效要求。
2022-09-28 09:47:06
226
6
原创 谛听安全如何从5W模式入手，助力内容审核
无论内容、形式、平台如何发展变化，传播的5W模式都是通用的，对内容的审核可以围绕着5个要素展开。所谓内容审核，也不仅仅是对内容本身进行识别，尤其是在目前机器识别无法达到100%的准确、内容数量本身及其庞大的情况下，通过对各个传播要素的“监控”，也是完善机器审核的数据维度、提升审核效率的有效途径。内容审核的重点还是在对内容本身的识别方面，从提升机器审核的召回率和准确率，到提升人工审核的效率，再到搭建完整的流转机制，从其他要素着手也主要是为优化这三个环节来服务。1. Who：谁——内容的生产者；
2022-09-27 15:37:39
167
6
原创 人工智能在内容安全的应用实践
通过事先收录的拼音库、形近字库、拆字库、符号库等字典，找出有变种嫌疑的内容，再结合上下文语境信息，使用Machine Learning技术判断是否变种并进行修正。通过算法计算汉字的相似度，快速找出所有的形近字，再进行人工确认，保证精准度。实时图像处理的背后是这样的一个技术架构在支撑：下载集群和并行计算，然后再经过色情模型、暴恐模型、涉政模型、广告模型等判断处理，最后给出结果处理。然而，传统的内容技术已难以满足企业日益增长的安全需求，就拿图像来说，传统的色情识别技术为例，就经常会存在误判、错判、漏判等情况。
2022-09-26 11:25:17
247
9
原创 文本内容安全领域-谛听安全深度学习的常见应用方法
LSTM和GRU是RNN的两种改良版本，它们通过门的机制对RNN中信息的传播进行控制，缓解了RNN的梯度消失问题（RNN梯度爆炸问题可以通过gradient clipping技术进行解决）。与全连接或卷积网络不同，RNN内部不同词对应的隐藏层相互之间是有联系的：当前词的隐藏层的输入除了输入层的输出，还包括前一个词的隐藏层的输出。深度学习是近几年来的热门方向，学术界和工业界的研究人员提出了很多有价值的方法，本文所分享的方法只是其中少数代表性的工作，仅供读者参考。使用CNN来做文本分类最早见于2014年。
2022-09-21 10:06:10
930
11
原创 深度学习图像算法在内容安全领域的应用实践和优化
内容安全领域是一个相对特殊的场景，我们面对的问题往往目标定义不明确，数据种类繁杂多变、图像质量差距大，还会经常面临对抗攻击，这一场景对算法能力的要求较高。深度学习图像算法近年来在学术领域经历了爆发式的发展，目前已经在工业界多个实际场景取得了较完整的应用落地，例如安防、营销、娱乐、金融等场景。深度学习算法已经成为图像算法中的重要组成部分，深度学习相关公开资源已经非常丰富，针对图像任务创建一个简单模型是十分容易上手的，这里将会展示如何快速搭建一个深度学习图像分类服务。
2022-09-20 15:02:53
962
11
原创 谛听安全内容审核干货！分享内容审核中容易疏漏的点
在内容审核中，总有一些疏忽，犯下无心之过，导致内容安全问题。就此，谛听安全内容审核团队分享了日常审核中最容易疏漏的点，希望对净化网络环境和实施内容监管的理解有所帮助。
2022-09-19 09:58:15
268
13
原创 社交媒体时代，如何有效中断内容伤害？
内容审核，顾名思义就是对内容进行审核。审核内容包含内容质量、风险、暴力敏感、谣言、涉黄、垃圾、违法、个人隐私、赌博、网络舆论、非法程序、毒品、网络诈骗、邪教、侵犯公民、非法售卖、 严重搞笑错别字等。近年来，随着互联网的高速发展，多媒体内容爆发带来了海量信息，但同时，裹挟大量色情、违禁、暴恐等不良内容的有害信息频繁出现在网络中。在互联网飞速发展的今天，网络黑灰产及违法违规内容也日新月异，这就要求我们网络安全人掌握更多的专业知识，善于学习和总结，同时具备创新能力，在网络攻防战中发挥更大的作用。
2022-09-16 09:42:52
668
6
原创 专注“数字内容风控”，助力共建清朗网络空间
当时内容审核运用的还是传统的“三审制”，随着互联网产品愈发多样化，企业每天要发布几十万甚至上百万帖子，内容审核的任务量每日剧增，如何高效、安全地进行内容审核，成了互联网行业最紧迫的命题。据统计，识别互联网平台有害内容的整体技术处于国际先进水平，仅2020年全年就检测数据4116亿，识别有害信息425亿，新提炼有害信息特征12亿，反作弊累计检测量百亿次，反作弊累计沉淀黑灰产用户画像亿级，反作弊恶意行为识别准确率在99%以上。内容审核服务的企业涉及各行各业：包括娱乐社交、金融、游戏、电商、教育、广电等。
2022-09-15 14:32:24
744
5
原创 违禁敏感词检测
自从新《广告法》出台后，作为广告、营销人等群体在写文案的过程中必须时时注意新法规定的禁用词，一旦误用，就有可能面临高额的罚款。除了可以对文本检测敏感违禁词进行有效把控，谛听安全还支持游戏及各大UCG平台的舆情监控，识别整个版本与周期出现的热点及高频负面词汇，帮助厂商在处理热点事件及竞品动态信息时掌握更加智能精准的消息，且效率更高。谛听内容审核的敏感词检测系统使用起来非常简单，支持API接口与在线私有化部署，试用产品时，只需将文本复制到检测文本框，点击查询，工具就能智能识别检测出敏感词汇。
2022-09-14 14:26:13
2639
10
原创 在内容合规上，如何建立内容审核体系？
所以先审后发还是先发后审，不仅是时间维度的划分，也是风险维度的划分，只有违规风险低的内容才适用先发后审。先审后发：所有内容审核通过后才可以提交，适用于对自身定位很强，对内容质量要求很高，信息量不是很大的平台，比如人人都是产品经理，以新闻为主的资讯平台，比如一点资讯等。这些内容出现的概率很低，但任何平台都不惜任何成本去来规避这类内容的出现，代价包括建立庞大的人工审核团队，牺牲一定用户体验，禁止发布任何沾边的内容——哪怕你不是这个意思，这是不得已而为之。搭建线上审核平台，选择自建或采购的机器审核工具。
2022-09-07 14:46:37
292
5
原创 数据敏感度-谛听安全运营心得
而懂数据，但不懂业务、不懂客户的人，就好像手里拿着最权威、最专业、满满精华的朗文英汉大字典，可那只是字典，不是文学史籍，不是诗词歌赋，也不是重大科学研究发现。件事，可能事情的影响面很小，导致视野、思维、环境约束不够，但在公司要做成一件事，哪怕一件小事都很难，因为有竞对，内部有一堆的人和事要协同。因为数据只是对商业行为的客观描述，只有真正懂数据背后的意义，才能解读数据，才能挖掘数据背后的含义，才能形成数据敏感。每个人对数据的敏感度截然不同，因为这和每个人的经验相关，所以有人对数据敏感，有人对数据无感。
2022-09-06 18:07:54
208
7
原创 内容审核快问快答
一旦内容审核人员知道了用户的背景，他们就可能会去推断用户的意图，让自己带着有色眼镜去审核这个用户的帖子。即使你拥有一个强大的内容审核团队，他们快速响应这些内容的能力也是有限的，他们也很难无偏见的进行审查。像Facebook、Yelp和Google这样的大公司采取了两种更主动的方式：第一种方法是使用机器学习，并让用户能够标记有问题的内容。面对每天产生的大量的UGC内容，内容审核人员必须迅速响应，时刻严防不良信息内容的传播，保障产品内容安全。规模：随着平台的发展，雇用和培训人员的速度很难跟上平台发展的步伐。
2022-09-05 16:19:04
320
2
原创 内容审核入门逻辑
虽然用户投诉审核和结果复审大多时候也是人工审核，但这里所说的人工审核，特指审核机器无法判别的内容，通常占平台内容数量的比例不超过5%，但对于一些大型的内容平台，绝对数量已经很多了。，是前两者的弥补，有很多违规内容以前没有出现过，所以不在规则可以过滤的范围内，或者非常隐蔽，规则难以严格过滤。对于运营或产品工作者来说，文本类AI模型的过滤效果在市场实操中的反馈和数据表现都较为成熟，因此在游戏运营与反灰产的实际工作中，企业可以考虑介入第三方服务，从而让成本下降的同时保证审核机制的实施更新与表现完善。...
2022-08-18 14:43:08
256
8
原创 内容审核的工作流
游戏灰产的猖獗无疑将会影响游戏内容平台的环境，不良的游戏环境将影响游戏日活数据，让运营和用户留存的表现不断变差。不同的来源带来的多元化的内容，使得平台可以为用户提供更加丰富的内容，而伴随科技发展和时代进步不断发生变化的用户需求，又让内容的表现也更加多样化。从第三方平台购买或引入内容，引入的合作机制可以是购买，也可以将引入的内容广告化做曝光/点击付佣，具体机制以内容的类别和优质程度决定。占比最高，最难管理的部分。面前的内容都是经过了激烈的竞争和“资本的加持”后的最终呈现，而竞争的第一环节就是平台审核。...
2022-08-17 09:40:40
128
8
原创 关于内容审核中台的产品设计
对于文本的处理主要是采用了NLP（自然语言处理）技术，将语句通过语法分析、情感分析、词向量分析等技术进行识别和归类，再与平台本身的素材库进行比对，返回匹配的结果。图片审核有两种审核方式，一是通过图片的MD5与素材库中的MD5进行比对从而获得审核结果，二是通过CNN（卷积神经网络）技术进行特征提取、各部分特征汇总以及产生分类器从而预测识别来进行审核。视频中的音频审核同上。，需要先进行视频的上传后，才能进行对应的审核，而且审核是以任务的形式进行审核的。模版配置模块：根据不同的审核规则，配置不同的审核模版。...
2022-08-16 15:44:38
348
14
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人