融云的敏感词过滤机制是一种基础保护机制,主要针对文本消息内容中的敏感词进行识别与过滤。该机制支持对中文、英文、日语、德语、俄语、韩语、阿拉伯语等多种语言的敏感词进行过滤。以下是融云敏感词过滤机制的一些关键点:
-
屏蔽与替换:融云允许开发者选择对含有敏感词的消息进行屏蔽,即目标用户不会收到含有敏感词的消息;或者将敏感词替换成其他字符后再发送,用户收到的是替换后的消息内容。
-
智能过滤:融云的敏感词过滤支持简体与繁体的智能过滤,智能忽略标点符号,以及对英文单词的智能识别,提升了匹配的准确性。例如,设置“反动”为敏感词,消息内容中的“反,动”也会被过滤。同时,支持全角、半角数字的匹配。
-
自定义消息类型:融云允许对自定义消息类型启用敏感词机制,开发者可以在控制台设置自定义消息的消息类型和内容结构中对应的键值,以进行敏感词过滤处理。
-
敏感词数上限:默认情况下,最多可以设置50个敏感词。对于需要更多敏感词过滤的需求,融云提供了付费服务以调整敏感词数上限。
-
服务端消息:默认情况下,敏感词机制仅对客户端发送的消息生效。如果需要对服务端API发送的消息进行敏感词过滤,可以在控制台开启相应功能。
-
敏感词设置:开发者可以通过融云控制台进行敏感词的添加、删除、导出等操作,也可以通过服务端API进行敏感词的管理。
-
回调服务:如果消息因敏感词被屏蔽,融云默认不会通知发送者。但开发者可以开通含敏感词消息屏蔽状态回调发送端功能,并在客户端设置监听,以便在消息被拦截时通知发送方。
-
审核结果回调:对于使用IM审核服务或消息回调服务的情况,融云提供了审核结果回调,让开发者可以根据审核结果决定消息是否下发。