.NET脏字过滤算法

转载 2007年09月27日 09:06:00
  但在我这里测试的时候,RegEx要快一倍左右。但是还是不太满意,应为我们网站上脏字过滤用的相当多,对效率已经有了一些影响,经过一番思考后,自己做了一个算法。在自己的机器上测试了一下,使用原文中的脏字库,0x19c的字符串长度,1000次循环,文本查找耗时1933.47ms,RegEx用了1216.719ms,而我的算法只用了244.125ms.

  主要算法如代码所示
private static Dictionary dic = new Dictionary();
private static BitArray fastcheck = new BitArray(char.MaxValue);
static void Prepare()
{
string[] badwords = // read from file
foreach (string word in badwords)
{
if (!dic.ContainsKey(word))
{
dic.Add(word, null);
maxlength = Math.Max(maxlength, word.Length);
int value = word[0];
fastcheck[word[0]] = true;
}
}
}

  使用的时候
int index = 0;
while (index < target.Length)
{
if (!fastcheck[target[index]])
{
while (index <target.Length - 1 && !fastcheck[target[++index]]) ;
}
for (int j = 0; j < Math.Min(maxlength, target.Length - index); j++)
{
string sub = target.Substring(index, j);
if (dic.ContainsKey(sub))
{
sb.Replace(sub, "***", index, j);
index += j;
break;
}
}
index++;

你应该知道的算法1-敏感词过滤算法

敏感词过滤在各互联网是比较常见的c
  • clh604
  • clh604
  • 2014年05月06日 14:02
  • 11945

关于.NET脏字过滤的算法代码

  • 2008年02月19日 12:42
  • 21KB
  • 下载

.NET脏字过滤算法代码

  • 2008年01月25日 13:03
  • 1KB
  • 下载

字符串多模式精确匹配(脏字/敏感词汇搜索算法)——TTMP算法 之B模式概述

前面一片文章,已经提到了TTMP算法的核心概念,就是“终止符”触发检索。其实这个概念也不是我创造出来的,如果看过编译理论,应该会很熟悉,其实我是偷师其中的归纳法。那么何谓之B模式呢? TTMP -B...

Asp.net实现文章脏字过滤功能

  • 2012年01月02日 18:40
  • 925KB
  • 下载

过滤脏字算法

  • 2017年09月12日 10:16
  • 694KB
  • 下载

字符串多模式精确匹配(脏字/敏感词汇搜索算法)——TTMP算法 之理论如此

什么是TTMP算法?不好意思,我发布这篇文章之前,估摸是没有其他地方能找着该算法的,因为那是俺生造的。 TTMP是啥意思呢?是Terminator Triggered Multi-Pattern 的...

过滤过敏字,脏字

过滤过敏字,首先是一个过敏字文件 dirtywords.txt; 里面的书写格式:    你好|不好|好的    中间用"|"隔开 我是在shopNC使用的:故而BasePath就是项目根目录常量...

C#高效脏字过滤

  • 2014年10月22日 14:31
  • 57KB
  • 下载
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:.NET脏字过滤算法
举报原因:
原因补充:

(最多只允许输入30个字)