敏感词、文字过滤是一个网站必不可少的功能,如何设计一个好的、高效的过滤算法是非常有必要的。在实现敏感词过滤的算法中,我们必须要减少运算,而 DFA 在 DFA 算法中几乎没有什么计算,有的只是状态的转换。所以想更高效的进行敏感词的过滤,需要使用 DFA 算法。
整理过滤函数代码如下:/**
* Notes: [DoFilterWords 过滤字符中敏感词]
* Author HeZe
* Date 2021/1/6 14:48
* @param $list 过滤词一维数组 ['小明', '小红', '大白', '小白', '小黑', 'me', 'you'];
* @param $string 输入文字 likeyou小白喜欢小黑爱着的大黄
* @return string 过滤后文字 like**喜欢*爱着的大黄
*/
function DoFilterWords($list, $string, $symbol = '*')
{
$count = 0; // 违规词的个数
$sensitiveWord = ''; // 违规词
$stringAfter = $string; // 替换后的内容
$pattern = "/".implode("|",$list)."/i"; // 定义正则表达式
if(preg_match_all($pattern, $string, $matches)) { // 匹配到了结果
$patternList = $matches[0]; // 匹配到的数组
$count = count($patternList);
$sensitiveWord = implode(',', $patternList); // 敏感词数组转字符串
//把匹配到的数组进行合并,替换使用
$replaceArray = array_combine($patternList,array_fill(0, count($patternList), $symbol));
$stringAfter = strtr($string, $replaceArray); //结果替换
}
$log = "原句为 [ {$string} ]
";
if($count==0) {
$log .= "暂未匹配到敏感词!";
} else {
$log .= "匹配到 [ {$count} ]个敏感词:[ {$sensitiveWord} ]
"."替换后为:[ {$stringAfter} ]";
}
return $log;
}
使用方法// 过滤词库
$list = ['小明', '小红', '大白', '小白', '小黑', 'me', 'you'];
// 输入文字
$string = "likeyou小白喜欢小黑爱着的大黄";
// 调用函数
$res = DoFilterWords($list , $string , '*');
echo $res;
// 输出结果
原句为 [ likeyou小白喜欢小黑爱着的大黄 ]
匹配到 [ 3 ]个敏感词:[ you,小白,小黑 ]
替换后为:[ like**喜欢*爱着的大黄 ]
最后 附上敏感词、停止词 词库:https://gitee.com/zehe/stopwords
转载请注明出处~~~~