敏感词过滤与DFA算法Trie树

一:Trie概念

下面我们有and,as,at,cn,com这些关键词,那么如何构建trie树呢?

这里写图片描述

从上面的图中,我们或多或少的可以发现一些好玩的特性。

  第一:根节点不包含字符,除根节点外的每一个子节点都包含一个字符。

  第二:从根节点到某一节点,路径上经过的字符连接起来,就是该节点对应的字符串。

  第三:每个单词的公共前缀作为一个字符节点保存。

二:使用范围

 既然学Trie树,我们肯定要知道这玩意是用来干嘛的。

 第一:词频统计。

        可能有人要说了,词频统计简单啊,一个hash或者一个堆就可以打完收工,但问题来了,*如果内存有限呢?*还能这么

         玩吗?所以这里我们就可以用trie树来压缩下空间,因为公共前缀都是用一个节点保存的。

 第二: 前缀匹配

        就拿上面的图来说吧,如果我想获取所有以"a"开头的字符串,从图中可以很明显的看到是:and,as,at,如果不用trie树,

        你该怎么做呢?很显然朴素的做法时间复杂度为O(N2) ,那么用Trie树就不一样了,它可以做到h,h为你检索单词的长度,

        可以说这是秒杀的效果。

举个例子:现有一个编号为1的字符串”and“,我们要插入到trie树中,采用动态规划的思想,将编号”1“计入到每个途径的节点中,

          那么以后我们要找”a“,”an“,”and"为前缀的字符串的编号将会轻而易举。

这里写图片描述

事例

百度云上有保存源码

引用原文链接

这里写链接内容
http://www.cnblogs.com/huangxincheng/archive/2012/11/25/2788268.html

好处

  • trie树最大程度的压缩了内存
  • 使用简单,轻量级, 满足应用前期需求
  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值