ElasticSearch倒排索引

一、ElasticSearch基本概念

        Elasticsearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎，基 于RESTful web接口。Elasticsearch是用Java语言开发的，并作为Apache许可条款下的开放源码发布， 是一种流行的企业级搜索引擎。Elasticsearch用于云计算中，能够达到实时搜索，稳定，可靠，快速， 安装使用方便。官方客户端在Java、.NET（C#）、PHP、Python、Apache Groovy、Ruby和许多其他 语言中都是可用的。根据DB-Engines的排名显示，Elasticsearch是最受欢迎的企业搜索引擎，其次是 Apache Solr，也是基于Lucene

        Lucene是一个Java语言的搜索引擎类库,是Apache公司的顶级项目，由DougCutting于1999年研发。 官网地址: https://lucene.apache.org/

重要特性：

1、分布式的实时文件存储，每个字段都被索引并可被搜索

2、实时分析的分布式搜索引擎

3、可以扩展到上百台服务器，处理PB级结构化或非结构化数据

二、倒排索引

1.正向索引概念

​

如果是根据id查询，那么直接走索引，查询速度非常快。

但如果是基于title做模糊查询，只能是逐行扫描数据，流程如下：

1. 用户搜索数据，条件是title符合"%手机%"
2. 逐行获取数据，比如id为1的数据
3. 判断数据中的title是否符合用户搜索条件
4. 如果符合则放入结果集，不符合则丢弃。回到步骤1

逐行扫描，也就是全表扫描，随着数据量增加，其查询效率也会越来越低。当数据量达到数百万时，就 是一场灾难。

2.倒排索引概念

倒排索引(Inverted index) 是一种将词项映射到文档的数据结构，这与传统关系型数据库的工作方式不同。（倒排索引源于实际应用中需要根据属性的值来查找记录。这种索引表中的每一项都包括一个属性值和具有该属性值的各记录的地址。由于不是由记录来确定属性值，而是由属性值来确定记录的位置，因而称为倒排索引(inverted index)）

倒排索引中有两个非常重要的概念：

• 文档（ Document ）：用来搜索的数据，其中的每一条数据就是一个文档。例如一个网页、一个商 品信息
• 词条（ Term ）：对文档数据或用户搜索数据，利用某种算法分词，得到的具备含义的词语就是词 条。例如：我是中国人，就可以分为：我、是、中国人、中国、国人这样的几个词条

在Elasticsearch（ES）中，倒排索引的结构包括以下几个关键组件：

1. Term Dictionary（词条字典）：词条字典是倒排索引的核心部分，它记录了所有出现过的不重复词条。每个词条都有一个唯一的编号（termID）和相应的词频等信息。

2. Posting List（倒排列表）：倒排列表是与每个词条相关联的数据结构。它包含了所有包含该词条的文档的信息，如文档ID、词频、位置等。倒排列表中的每个项称为一个倒排项（posting），一个倒排列表包含了所有相关文档的倒排项。

3. Document ID（文档ID）：文档ID是一个唯一标识符，用于标识文档在倒排索引中的位置。文档ID可以是自动生成的数字、唯一的字符串或其他类型的标识符。

4. Term Positions（词条位置）：倒排索引还可以记录每个词条在文档中的位置信息，即词条在文档中的偏移量。这样可以支持短语查询和位置相关的搜索。

5. Term Frequencies（词条频率）：倒排索引可以记录每个词条在文档中出现的频率。这对于搜索结果的排序和评分非常重要。

倒排索引结构的设计使得Elasticsearch能够高效地进行全文搜索和复杂查询。通过将文档中的词条反向映射到文档，倒排索引可以快速定位到包含特定词条的文档，从而提供高效的搜索功能。通过倒排列表和相关的文档ID、词频等信息，ES可以快速计算出搜索结果的相关性，并返回排名合适的文档。这种倒排索引结构的优势使得ES成为一种强大和高效的搜索引擎工具。

创建倒排索引是对正向索引的一种特殊处理，流程如下：

• 将每一个文档的数据利用算法分词，得到一个个词条
• 创建表，每行数据包括词条、词条所在文档id、位置等信息
• 因为词条唯一性，可以给词条创建索引，例如hash表结构索引

如图：

倒排索引的搜索流程如下（以搜索"华为手机"为例）：

1）用户输入条件 "华为手机" 进行搜索。

2）对用户输入内容分词，得到词条： 华为 、 手机 。

3）拿着词条在倒排索引中查找，可以得到包含词条的文档id：1、2、3。

4）拿着文档id到正向索引中查找具体文档。

如图：

虽然要先查询倒排索引，再查询倒排索引，但是无论是词条、还是文档id都建立了索引，查询速度非常 快！无需全表扫描。

3.正向索引和倒排索引优缺点

• 正向索引是最传统的，根据id索引的方式。但根据词条查询时，必须先逐条获取每个文档，然后判 断文档中是否包含所需要的词条，是根据文档找词条的过程。
• 倒排索引则相反，是先找到用户要搜索的词条，根据词条得到保护词条的文档的id，然后根据id 获取文档。是根据词条找文档的过程。

正向索引：

• 优点：
  • 可以给多个字段创建索引
  • 根据索引字段搜索、排序速度非常快
• 缺点：
  • 根据非索引字段，或者索引字段中的部分词条查找时，只能全表扫描。

根据非索引字段，或者索引字段中的部分词条查找时，只能全表扫描。

倒排索引：

• 优点：
  • 根据词条搜索、模糊搜索时，速度非常快
• 缺点：
  • 只能给词条创建索引，而不是字段
  • 无法根据字段做排序