目录
题目:有n个词,数据量800G,如何查找某个词是否存在?
例如:
”abc“
”abcjk“
”abcdefg“
”我是一个小乖乖“
”123456“
”122678“
……
查找”abc“ 、”111111“ 两个词是否存在,考虑时间复杂度
前缀树来实现
什么是前缀树?
前缀树又名字典树,单词查找树,Trie树,是一种多路树形结构,是哈希树的变种,和hash效率有一拼,是一种用于快速检索的多叉树结构。
典型应用是用于统计和排序大量的字符串(但不仅限于字符串),所以经常被搜索引擎系统用于文本词频统计。它的优点是:最大限度地减少无谓的字符串比较,查询效率比哈希表高。
Trie的核心思想是空间换时间。利用字符串的公共前缀来降低查询时间的开销以达到提高效率的目的。
构造前缀树
本文以上面随便举的例子来实现前缀树构造和查找,实际数据量非常大,词长度也会很长。
上面例子构造成的前缀树如下图所示,一目了然
首先头结点为一个空结点
每个节点存一个map,map值是它所有的子节点,当前空结点的map为a、1、我 三个子节点,以此类推,同时每一个节点还要有一个是否结束的属性,标记节点是否是最后一个节点,这样在存储上节省很大空间。
查找
比如查找词”abcjk“,查找它是否存在只需遍历到这个地方即可