云开发CloudBase内容审核能力

本文介绍云开发内容审核的使用场景，并演示如何使用内容审核功能。

*本文主要介绍腾讯云云开发侧的功能应用，微信云开发侧使用指南参见：

https://developers.weixin.qq.com/miniprogram/dev/wxcloud/basis/Consecurity.html

内容审核介绍

什么是内容审核？

内容审核是基于图像、文本、音视频的检测技术，可自动检测低俗、违法违规、色情、广告、图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮助客户降低业务违规风险。

常见的内容审核方式有：

• 图像内容审核

图像内容审核，利用深度神经网络模型对图片内容进行检测，准确识别图像中的敏感违法元素、违规内容等，帮助业务规避违规风险。

• 文本内容审核

文本内容审核，采用人工智能文本检测技术有效识别违法违规、广告、辱骂、违禁品和灌水文本内容，提供定制化的文本敏感内容审核方案。

云开发内容审核介绍

云开发内容审核为托管在云开发内的内容（云数据库里存储的数据、云存储上存储的文件）提供快速的内容审核服务。可快速设置内容审核规则（审核范围、审核场景、违规后自动封禁处理），数据库文档变更后异步审核，文本内容秒级完成审核与处理。