传统数据库无法满足的痛点
在mysql中,我们根据关键字去搜索一般都是like %~~%,但是这样搜索的性能是很低的,因为没有走索引。
相关性搜索,电商网站中的根据浏览记录做的商品推荐,在海量数据下直接查询数据库也是无法做到快速反应
倒排索引
引出倒排索引之前先说下HashMap,经典的key-value数据结构,搜索效率非常高,如果说HashMap是正向索引的话,那么倒排索引的数据结构跟HashMap恰好相反,它是由value指向key的。
比如说有2篇文档:1:我是中国人,2:我是程序员
首先会对文档进行分词,建立相应的字典树,
类似这样的数据结构,它是把值作为索引,比如说搜索“我”的时候,在字典树中先找到“我”,然后再查找到id=1跟id=2的所有记录,那么这两篇文档就找到了,搜索“程序员”,得到id=2,然后再查找id=2的所有记录,那么“我是程序员”这篇文档就找到了。
基于Lucene的搜索引擎有elasticsearch跟solr,实际上就是对文档进行分词实现快速查找功能,在实际应用中可以通过定时器把文档从mysql同步到elasticsearch或者solr,然后查找的时候就直接查询elasticsearch或者solr