- 博客(12)
- 收藏
- 关注
RSS订阅转载 人工智能在内容安全的应用实践
通过事先收录的拼音库、形近字库、拆字库、符号库等字典，找出有变种嫌疑的内容，再结合上下文语境信息，使用Machine Learning技术判断是否变种并进行修正。通过算法计算汉字的相似度，快速找出所有的形近字，再进行人工确认，保证精准度。实时图像处理的背后是这样的一个技术架构在支撑：下载集群和并行计算，然后再经过色情模型、暴恐模型、涉政模型、广告模型等判断处理，最后给出结果处理。然而，传统的内容技术已难以满足企业日益增长的安全需求，就拿图像来说，传统的色情识别技术为例，就经常会存在误判、错判、漏判等情况。
2022-09-26 20:50:18
283
转载 文本内容安全领域-谛听安全深度学习的常见应用方法
LSTM和GRU是RNN的两种改良版本，它们通过门的机制对RNN中信息的传播进行控制，缓解了RNN的梯度消失问题（RNN梯度爆炸问题可以通过gradient clipping技术进行解决）。与全连接或卷积网络不同，RNN内部不同词对应的隐藏层相互之间是有联系的：当前词的隐藏层的输入除了输入层的输出，还包括前一个词的隐藏层的输出。深度学习是近几年来的热门方向，学术界和工业界的研究人员提出了很多有价值的方法，本文所分享的方法只是其中少数代表性的工作，仅供读者参考。
2022-09-26 20:48:08
185
转载 社交媒体时代，如何有效中断内容伤害？
内容审核，顾名思义就是对内容进行审核。审核内容包含内容质量、风险、暴力敏感、谣言、涉黄、垃圾、违法、个人隐私、赌博、网络舆论、非法程序、毒品、网络诈骗、邪教、侵犯公民、非法售卖、 严重搞笑错别字等。近年来，随着互联网的高速发展，多媒体内容爆发带来了海量信息，但同时，裹挟大量色情、违禁、暴恐等不良内容的有害信息频繁出现在网络中。在互联网飞速发展的今天，网络黑灰产及违法违规内容也日新月异，这就要求我们网络安全人掌握更多的专业知识，善于学习和总结，同时具备创新能力，在网络攻防战中发挥更大的作用。
2022-09-20 18:23:54
188
转载 违禁敏感词检测
另外，自从新《广告法》出台后，作为广告、营销人等群体在写文案的过程中必须时时注意新法规定的禁用词，一旦误用，就有可能面临高额的罚款。除了可以对文本检测敏感违禁词进行有效把控，谛听安全还支持游戏及各大UCG平台的舆情监控，识别整个版本与周期出现的热点及高频负面词汇，帮助厂商在处理热点事件及竞品动态信息时掌握更加智能精准的消息，且效率更高。谛听内容审核的敏感词检测系统使用起来非常简单，支持API接口与在线私有化部署，试用产品时，只需将文本复制到检测文本框，点击查询，工具就能智能识别检测出敏感词汇。
2022-09-14 18:21:51
1348
转载 内容审核的工作流
亦或是从第三方平台购买或引入内容，引入的合作机制可以是购买，也可以将引入的内容广告化做曝光/点击付佣，具体机制以内容的类别和优质程度决定。有人言“互联网的终点是内容”，现如今内容的生产已经没有门槛，每天亿万级的内容生产量，让每一个到达用户面前的内容都是经过了激烈的竞争和“资本的加持”后的最终呈现，而竞争的第一环节就是平台审核。不同的来源带来的多元化的内容，使得平台可以为用户提供更加丰富的内容，而伴随科技发展和时代进步不断发生变化的用户需求，又让内容的表现也更加多样化，这就使得内容的审核难度在逐渐加大。...
2022-08-31 15:56:42
200
转载 游戏内容安全：运营如何筛查和辨别黑灰产
游戏作弊，可以是“在游戏中开挂”，也可以是“在沙盒生存发展类的游戏中用一个控制台调出无限的资源”，或是“在射击游戏中对于穿墙、透视、自动瞄头”，这些在操作的心理产生快感的背后，自始至终笼罩着黑灰产的影子。从游戏聊天到游戏运营数据多方面在合理的成本范围内控制灰黑产在游戏环境内的发展，并兼顾游戏日活、玩家黏性等特点，多方位评估并给出一套完整的解决方案，帮助游戏在竞争激烈的市场环境下取得更加亮眼的表现与优质的口碑。在游戏产业中，这种现象无疑是对游戏创作者的挑战，玩家会跟着抱怨，而后将是“平衡”的游戏原则被打破。.
2022-08-31 15:53:11
413
转载 手游常见的安全攻击方式—安全运营心得
典型的是通过U3D单子中的dll文件，找到相应的游戏逻辑篡改，实现自己的破解目的，或者分析il2cpp中的libil2cpp.so文件，分析关键游戏逻辑篡改，然后进行二次打包。例如，GG修饰符、烤饼修饰符和葫芦修饰符，以及这些变体的衍生物，都是基于这样的原理，即修饰符用于搜索相应的值，然后根据数值变化规律在存储器中定位位置，直接修改，达到相应的目的。U3引擎:mono格式的dll文件，il2cpp.so文件，il2cpp格式的global-metadata.dat文件；Layaair: js 文件等。...
2022-08-26 15:16:46
164
转载 关于内容审核中台的产品设计
以云点播的视频举例，需要先进行视频的上传后，才能进行对应的审核，而且审核是以任务的形式进行审核的。1. 文本审核：对于文本的处理主要是采用了NLP（自然语言处理）技术，将语句通过语法分析、情感分析、词向量分析等技术进行识别和归类，再与平台本身的素材库进行比对，返回匹配的结果。2. 图片审核：图片审核有两种审核方式，一是通过图片的MD5与素材库中的MD5进行比对从而获得审核结果，二是通过CNN（卷积神经网络）技术进行特征提取、各部分特征汇总以及产生分类器从而预测识别来进行审核。视频中的音频审核同上。...
2022-08-26 15:14:35
553
转载 小程序游戏中存在的内容安全风险
目前，一个小游戏中往往接入了形形色色的广告，有的是推广网络广告，有的是恶意广告，或者是修改正版的广告，篡改为自己的广告。此外，通过智能数据追踪，谛听可以精准识别恶意篡改程序，将灰黑产的广告推广进行实时拦截，帮助小程序游戏在开发与维护的过程中降低成本，提高效率。当然，小游戏不仅仅是指以小程序形式加载的游戏，还包括安装了小安装包的游戏，比如白鹭、cocos2djs引擎编写的游戏。wxapkg文件，使用成熟的在线反编译工具解包，然后修改代码和“皮肤”，替换部分图片资源，轻松复制原来的小游戏。...
2022-08-26 14:26:12
490
转载 业务治理流程的风控方法-安全运营心得
如果我们只考虑一个具体的风险控制业务场景，我们最好的方法是通过不断提高每个治理环节的效率来提高风险控制的整体效率，从而提高风险控制的效率。如果针对处于风控稳定期的业务，那么其目的可能是让产品变得更加稳定可控，那么基于治理流程的思维方法则可以是帮助业务进一步提升风控能力，让产品的每一步动作都会产生价值沉淀，每一步沉淀都会让风控更加得心应手。黑色生产遍布互联网的各个领域，无论一个平台提供什么样的产品，只要这个产品能够带来收入转换的可能性，这个平台就会成为黑色生产攻击的目标。...
2022-07-22 11:42:59
124
转载 网络流量蜜糖还是陷阱-内容安全的重要性
同时，我们也会发现在信息社会各种不同场景下出现的违规种类和变种形式也非常多，从最初简单的敏感词，到现在有字体的拆分、特殊文化符号的混淆，图片内嵌入违规文字运用信息，以及学生语音里夹杂着不良内容等等。在彩色流信息产业的趋势出现后，人们发现文本垃圾开始变成图片垃圾，而更为隐秘的是，不良的文本并没有消失，而是缓慢地出现并结合在图片中。随着短视频和现场直播的广泛发展，越来越多的网络信息内容产生，紧随其后的是巨大的内容监管压力，但互联网并不违法，违法的是那些部分的阴暗角落里不道德、不守法的行为。...
2022-07-22 11:39:25
81
转载 游戏AI”鉴劣师”智能内容审核方案
谛听安全依托自建数据库和丰富的数据采集和数据标注经验，对标记类型进行不同领域的精准定位，举例而言，游戏过滤词的屏蔽精准度可以达到98%，而自训练模型的召回率可到达96%以上的水准。因此，人工智能审核的优化过程永远不会结束，只要市场上仍然有灰黑产领域的人试图以各种方式突破和对抗安全厂商的策略，AI的识别进化脚步就不会停止。提供定制性质的帮助。近年来，随着游戏、直播和短视频的爆发，网络不良内容泛滥，国家对内容审计的要求越来越严格，监管政策不断收紧，要求主流的网络平台和游戏运营不断提高信息内容的识别和过滤能力。.
2022-07-22 11:36:40
284
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人