倒排索引
倒排索引的概念是基于MySQL这样的正向索引而言的。
sql模糊查询
1)用户搜索数据,条件是title符合`"%手机%"` 2)逐行获取数据,比如id为1的数据 3)判断数据中的title是否符合用户搜索条件 4)如果符合则放入结果集,不符合则丢弃。回到步骤1 逐行扫描,也就是全表扫描,随着数据量增加,其查询效率也会越来越低。当数据量达到数百万时,就是一场灾难。
创建方法
- 将每一个文档的数据利用算法分词,得到一个个词条 - 创建表,每行数据包括词条、词条所在文档id、位置等信息 - 因为词条唯一性,可以给词条创建索引,例如hash表结构索引
搜索流程
1.用户输入搜索关键词 2.对用户输入的搜索词进行分词,得到词条. 3.拿着词条在倒排索引中进行查询,可以得到包含词条的文档id:123... 4.拿着id在正向索引中查找具体文档
正向索引和倒排的优势对比
**正向索引**: - 优点: - 可以给多个字段创建索引 - 根据索引字段搜索、排序速度非常快 - 缺点: - 根据非索引字段,或者索引字段中的部分词条查找时,只能全表扫描。 **倒排索引**: - 优点: - 根据词条搜索、模糊搜索时,速度非常快 - 缺点: - 只能给词条创建索引,而不是字段 - 无法根据字段做排序
mysql与elasticsearch的概念做一下对比:
MySQL | Elasticsearch | 说明 |
---|---|---|
Table | Index | 索引(index),就是文档的集合,类似数据库的表(table) |
Row | Document | 文档(Document),就是一条条的数据,类似数据库中的行(Row),文档都是JSON格式 |
Column | Field | 字段(Field),就是JSON文档中的字段,类似数据库中的列(Column) |
Schema | Mapping | Mapping(映射)是索引中文档的约束,例如字段类型约束。类似数据库的表结构(Schema) |
SQL | DSL | DSL是elasticsearch提供的JSON风格的请求语句,用来操作elasticsearch,实现CRUD |
是不是说,我们学习了elasticsearch就不再需要mysql了呢?
并不是如此,两者各自有自己的擅长支出:
-
Mysql:擅长事务类型操作,可以确保数据的安全和一致性
-
Elasticsearch:擅长海量数据的搜索、分析、计算
因此在企业中,往往是两者结合使用:
-
对安全性要求较高的写操作,使用mysql实现
-
对查询性能要求较高的搜索需求,使用elasticsearch实现
-
两者再基于某种方式,实现数据的同步,保证一致性