小程序-云开发-如何对敏感词进行过滤即内容安全的检测(上)

虽互不曾谋面,但希望能和您成为笔尖下的朋友

以读书,技术,生活为主,偶尔撒点鸡汤

不作,不敷衍,意在真诚吐露,用心分享

点击左上方,可关注本刊

标星公众号（ID：itclanCoder）

如果不知道如何操作

点击这里,标星不迷路

━━━━━━

━━━━━━

我希望您保持空杯

一边阅读一边思考

更重要是要动手敲

如果有收获三连击

作者 | 随笔川迹

ID | suibichuanji

前言

撰文:川川

您将在本文中学习到如何在小程序中对一段文本进行检测是否含有违法违规的内容

• 遇到涉及敏感文本问题,以及接入内容安全的校验

• 具体有哪些应用场景

• 具体有哪些解决办法

• • 方案1: xxxx

  • 方案2::xxxx

  • 方案3: xxxx

• 云函数调用结合request-promise第三方库实现内容请求校验

本文重点在于

• 学会如何在小程序端请求云函数,有别于传统的wx.request的方式(类似AJax)

• 在云函数端,利用第三方https请求库(request,request-promise),获取Access_token,以及向微信官方提供的内容检测接口发请求进行校验

• 云函数端与小程序端错误码的处理

·  正  ·  文  ·  来  ·  啦  ·

01

背景

无论是小程序还是自行开发的一些类似社交,带有用户自行产生内容的软件应用,例如:即时通讯,社群,论坛,音视频直播等,对于接入内容安全的检测是非常有必要的

您永远不要低估网络言语的力量.如果产品没有提要求,那么实际开发人员是有必要提要求的,基于国情以及同行的商业竞争关系,您平时或许看到过一些小程序遭封禁,一些APP遭应用市场下架或被公安机关约喝茶等

这或多或少都与用户发布灰色内容打擦边球或违反法律法规有关

虽然吸引用户很重要,但是能留住用户,反复使用更重要,一旦风口一过,想在把用户拉回来,那得费很大的精力

对于小程序而言,这一点在审核上是非常严格的,净化言行,做一个知法守法的人很重要...

接入内容安全检测,规避输入一些违法违规低俗等内容,避免幸辛苦苦开发出来的应用

被恶意上传反动言论或上传一些违规内容(文字/图片/视频等),导致小程序或应用被下架,或遭永久禁封,或个人及公司被公安机关打电话,约喝茶等,这样的话,就得不偿失了的

02

应用场景

• 用户个人资料违规文字检测(个人信息等,一些过于商业以及营销之类的词可以进行过滤或禁止输入)

• 用户自行发表的信息,评论,留言,内容检测等

03

解决办法

方案1:引入第三方接口对内容进行校验(例如:百度AI内容审核平台,网易云盾等)

• 优点: 前端同学只需按照官方提供的第三方接口文档,进行校验即可,无需后台介入,功能强大,覆盖范围广

• 缺点: 接口调用的频次有限制,收费

• 方案2: 公司后台小伙伴自行开发文本,图片,音视频等内容审核接口

• • 优点: 后台小伙伴自己造轮子,根据自己的业务需求以及用户属性,自定义内容审核机制

  • 缺点: 开发周期长,成本大,难以覆盖全面

• 方案3: 小程序服务端提供的API进行校验

• • 优点:简单,高效

  • 缺点: 想不出来,因为相比前两种方案,对于不依赖后端接口的开发者来说,简直是雪中送炭

实现方式:

• HTTPS调用

• 云调用

对于方案1,喜欢折腾的小伙伴可参照官方的API文档,自行实现 

对于方案2,具体可评估,有实力的开发人员可自行开发 

对于方案3,极力推荐,使用小程序提供的API进行校验(本文主要通过云调用的方式去解决文本校验问题)

既然文档中提到HTTPS调用的方式 检测文本内容实现的方式有两种手段:

方式1: 在小程序端通过wx.request方式直接发送HTTP请求校验

方式2 .在小程序端通过请求云函数(后端)(wx.cloud.callFunction),结合官方提供的内容审核接口进行校验

对于方式1:使用HTTPS调用方式,首先你需要登录自己的小程序后台-左侧菜单栏目--->开发--->开发设置--->服务器域名--->配置服务器域名信息

对于使用HTTPS调用的方式:根据接口文档指示,需要拿到小程序的APPID和secret(在小程序管理后台开发设置中就可以查找得到) 

对于HTTPS的使用,在小程序端通过wx.request发起请求进行请求数据时 若小程序控制台发现下面的这个错误时,那么就是没有在小程序后台配置域名设置白名单了

对于使用HTTPS请求数据也是小程序开发中一个非常常见的操作,但是有的小伙伴一看到什么token之类的,就觉得很麻烦.代码还没开始写,就被这些专业的术语给整蒙了的

其实按着官方文档多操作几遍就可以了的 一般来说:在小程序端发送HTTP请求后台的接口,这个access_token放置在后端的,直接放置在前端是不安全的

如果您公司有自己的后端服务,直接让后端同学处理即可,前端发送http请求时,后端将token返回前端就可以了的,这个token就是一个认证,具体可参考文档获取Access-token

当然现在小程序有了云开发之后,实现起来,就更简单了的,不用配置什么域名,也不用备案等操作,小程序云开发有天然鉴权的能力

下面以云函数中对接小程序端内容安全检测

04

利用request-promise第三方库实现内容请求校验

在小程序端(pages文件夹下的文件都是属于小程序前端代码,每个文件夹目录代表的就是一个模块,一个页面)</