ElasticSearch DSL语法

一、文档批量操作

1.批量获取文档数据

批量获取文档数据是通过_mget的API来实现的

img

(1)在URL中不指定index和type

  • 请求方式:GET

  • 请求地址:_mget

  • 功能说明 : 可以通过ID批量获取不同index和type的数据

  • 请求参数:

  • docs : 文档数组参数

  • _index : 指定index

  • _type : 指定type(7.x的版本不推荐使用)

  • _id : 指定id

  • _source : 指定要查询的字段

img

(2)在URL中指定index

  • 请求方式:GET

  • 请求地址:/{{indexName}}/_mget

  • 功能说明 : 可以通过ID批量获取不同index和type的数据

  • 请求参数:

  • docs : 文档数组参数

  • _index : 指定index

  • _type : 指定type(7.x的版本不推荐使用)

  • _id : 指定id

  • _source : 指定要查询的字段

img

(3)在URL中指定index和type

  • 请求方式:GET

  • 请求地址:/{{indexName}}/{{typeName}}/_mget

  • 功能说明 : 可以通过ID批量获取不同index和type的数据

  • 请求参数:

  • docs : 文档数组参数

  • _index : 指定index

  • _type : 指定type

  • _id : 指定id

  • _source : 指定要查询的字段

img

2.批量操作文档数据

批量对文档进行写操作是通过_bulk的API来实现的

  • 请求方式:POST

  • 请求地址:_bulk

  • 请求参数:通过_bulk操作文档,一般至少有两行参数(或偶数行参数)

  • 第一行参数为指定操作的类型及操作的对象(index,type和id)

  • 第二行参数才是操作的数据

{“actionName”:{“_index”:“indexName”, “_type”:“typeName”,“_id”:“id”}}

{“field1”:“value1”, “field2”:“value2”}

  • actionName:表示操作类型,主要有create,index,delete和update

(1)批量创建文档create

img

(2)普通创建或全量替换index

img

  • 如果原文档不存在,则是创建
  • 如果原文档存在,则是替换(全量修改原文档)

(3)批量删除delete

img

(4)批量修改update

img

二.DSL语言高级查询

1.Query DSL概述

img

2.无查询条件

无查询条件是查询所有,默认是查询所有的,或者使用match_all表示所有

img

3.有查询条件

3.1 叶子条件查询(单字段查询条件)

3.1.1 模糊匹配

模糊匹配主要是针对文本类型的字段,文本类型的字段会对内容进行分词,对查询时,也会对搜索条件进行分词,然后通过倒排索引查找到匹配的数据,模糊匹配主要通过match等参数来实现

  • match : 通过match关键词模糊匹配条件内容
  • prefix : 前缀匹配
  • regexp : 通过正则表达式来匹配数据

img

img

match的复杂用法

match条件还支持以下参数:

  • query : 指定匹配的值

  • operator : 匹配条件类型

  • and : 条件分词后都要匹配

  • or : 条件分词后有一个匹配即可(默认)

  • minmum_should_match : 指定最小匹配的数量

3.1.2 精确匹配

  • term : 单个条件相等
  • terms : 单个字段属于某个值数组内的值
  • range : 字段属于某个范围内的值
  • exists : 某个字段的值是否存在
  • ids : 通过ID批量查询

img

3.2 组合条件查询(多条件查询)

组合条件查询是将叶子条件查询语句进行组合而形成的一个完整的查询条件

  • bool : 各条件之间有and,or或not的关系

  • must : 各个条件都必须满足,即各条件是and的关系

  • should : 各个条件有一个满足即可,即各条件是or的关系

  • must_not : 不满足所有条件,即各条件是not的关系

  • filter : 不计算相关度评分,它不计算_score即相关度评分,效率更高

  • constant_score : 不计算相关度评分

must/filter/shoud/must_not 等的子条件是通过 term/terms/range/ids/exists/match 等叶子条件为参数的

注:以上参数,当只有一个搜索条件时,must等对应的是一个对象,当是多个条件时,对应的是一个数组

3.3 连接查询(多文档合并查询)

  • 父子文档查询:parent/child
  • 嵌套文档查询: nested

3.4 DSL查询语言中存在两种:查询DSL(query DSL)和过滤DSL(filter DSL)

query DSL

在查询上下文中,查询会回答这个问题——“这个文档匹不匹配这个查询,它的相关度高么?”

如何验证匹配很好理解,如何计算相关度呢?ES中索引的数据都会存储一个_score分值,分值越高就代表越匹配。另外关于某个搜索的分值计算还是很复杂的,因此也需要一定的时间。

filter DSL

在过滤器上下文中,查询会回答这个问题——“这个文档匹不匹配?”

答案很简单,是或者不是。它不会去计算任何分值,也不会关心返回的排序问题,因此效率会高一点。

过滤上下文 是在使用filter参数时候的执行环境,比如在bool查询中使用must_not或者filter

另外,经常使用过滤器,ES会自动的缓存过滤器的内容,这对于查询来说,会提高很多性能。

3.5 Query方式查询:案例

  • 根据名称精确查询姓名 term, term查询不会对字段进行分词查询,会采用精确匹配

注意: 采用term精确查询, 查询字段映射类型属于为keyword.

img

  • 根据备注信息模糊查询 match, match会根据该字段的分词器,进行分词查询

img

  • 多字段模糊匹配查询与精准查询 multi_match

img

  • 未指定字段条件查询 query_string , 含 AND 与 OR 条件

img

  • 指定字段条件查询 query_string , 含 AND 与 OR 条件

img

  • 范围查询

注:json请求字符串中部分字段的含义

​ range:范围关键字

​ gte 大于等于

​ lte 小于等于

​ gt 大于

​ lt 小于

​ now 当前时间

img

  • 分页、输出字段、排序综合查询

img

_source :

3.6 Filter过滤器方式查询,它的查询不会计算相关性分值,也不会对结果进行排序, 因此效率会高一点,查询的结果可以被缓存。

Filter Context 对数据进行过滤

img

总结:

  1. match

match:模糊匹配,需要指定字段名,但是输入会进行分词,比如"hello world"会进行拆分为hello和world,然后匹配,如果字段中包含hello或者world,或者都包含的结果都会被查询出来,也就是说match是一个部分匹配的模糊查询。查询条件相对来说比较宽松。

  1. term

term: 这种查询和match在有些时候是等价的,比如我们查询单个的词hello,那么会和match查询结果一样,但是如果查询"hello world",结果就相差很大,因为这个输入不会进行分词,就是说查询的时候,是查询字段分词结果中是否有"hello world"的字样,而不是查询字段中包含"hello world"的字样。当保存数据"hello world"时,elasticsearch会对字段内容进行分词,“hello world"会被分成hello和world,不存在"hello world”,因此这里的查询结果会为空。这也是term查询和match的区别。

  1. match_phase

match_phase:会对输入做分词,但是需要结果中也包含所有的分词,而且顺序要求一样。以"hello world"为例,要求结果中必须包含hello和world,而且还要求他们是连着的,顺序也是固定的,hello that world不满足,world hello也不满足条件。

  1. query_string

query_string:和match类似,但是match需要指定字段名,query_string是在所有字段中搜索,范围更广泛。

三.文档映射

1.ES中映射可以分为动态映射和静态映射

动态映射:

在关系数据库中,需要事先创建数据库,然后在该数据库下创建数据表,并创建表字段、类型、长度、主键等,最后才能基于表插入数据。

而Elasticsearch中不需要定义Mapping映射(即关系型数据库的表、字段等),在文档写入Elasticsearch时,会根据文档字段自动识别类型,这种机制称之为动态映射。

动态映射规则如下:

img

静态映射:

静态映射是在Elasticsearch中也可以事先定义好映射,包含文档的各字段类型、分词器等,这种方式称之为静态映射。

2 动态映射

2.1 删除原创建的索引

DELETE /es_db

2.2 创建索引

PUT /es_db

2.3 创建文档(ES根据数据类型, 会自动创建映射)

img

2.4 获取文档映射

GET /es_db/_mapping

img

3 静态映射

3.1 删除原创建的索引

DELETE /es_db

3.2 创建索引

img

3.3 设置文档映射

img

“index”: true – name是否需要进行分词 true-需要

“store”:true – 是否存储 true 时会将查询到的数据存储起来

如果一个字段的mapping中含有store属性为true,那么有一个单独的存储空间为这个字段做存储,而且这个存储是独立于_source的存储的。它具有更快的查询。存储该字段会占用磁盘空间。如果需要从文档中提取(即在脚本中和聚合),它会帮助减少计算。在聚合时,具有store属性的字段会比不具有这个属性的字段快。 此选项的可能值为false和true。

3.5 获取文档映射

img

img

由于ElasticSearch使用索引名称作为磁盘上的目录名称,这些名称必须符合不同操作系统的约定。
同时需遵守下列规则:

  • 索引名必须为小写字母
  • 不能包括 , /, *, ?, “, <, >, |, 空格, 逗号, #
  • 7.0版本之后不能使用冒号:
  • 不能以这些字符 -, _, + 开头
  • 不能包括 . 或 …
  • 长度不能超过 255 个字符

四.核心类型(Core datatype)

字符串:string,string类型包含 text 和 keyword。

text:该类型被用来索引长文本,在创建索引前会将这些文本进行分词,转化为词的组合,建立索引;允许es来检索这些词,text类型不能用来排序和聚合。

keyword:该类型不能分词,可以被用来检索过滤、排序和聚合,keyword类型不可用text进行分词模糊检索。

数值型:long、integer、short、byte、double、float

日期型:date

布尔型:boolean

五.keyword 与 text 映射类型的区别

将 book 字段设置为 keyword 映射 (只能精准查询, 不能分词查询,能聚合、排序)

img

将 book 字段设置为 text 映射能模糊查询, 能分词查询,不能聚合、排序)

img

term: 不会被拆开

match:会被拆开

六.创建静态映射时指定text类型的ik分词器

1.设置ik分词器的文档映射

先删除之前的es_db

再创建新的es_db

定义ik_smart的映射

PUT /es_db

{

“mappings”:{

“properties”:{

“name”:{“type”:“keyword”,“index”:true,“store”:true},

“sex”:{“type”:“integer”,“index”:true,“store”:true},

“age”:{“type”:“integer”,“index”:true,“store”:true},

“book”:{“type”:“text”,“index”:true,“store”:true,“analyzer”:“ik_smart”,“search_analyzer”:“ik_smart”},

“address”:{“type”:“text”,“index”:true,“store”:true}

}

}

}

2.分词查询

POST /es_db/_doc/_search

{

“query”: {

“match”: {“address”: “广”}

}

}

POST /es_db/_doc/_search

{

“query”: {

“match”: {“address”: “广州”}

}

}

七.对已存在的mapping映射进行修改

具体方法

1)如果要推倒现有的映射, 你得重新建立一个静态索引

2)然后把之前索引里的数据导入到新的索引里

3)删除原创建的索引

4)为新索引起个别名, 为原索引名

img

注意: 通过这几个步骤就实现了索引的平滑过渡,并且是零停机

八.Elasticsearch乐观并发控制

在数据库领域中,有两种方法来确保并发更新,不会丢失数据:

1、悲观并发控制

这种方法被关系型数据库广泛使用,它假定有变更冲突可能发生,因此阻塞访问资源以防止冲突。 一个典型的例子是读取一行数据之前先将其锁住,确保只有放置锁的线程能够对这行数据进行修改。

2、乐观并发控制

Elasticsearch 中使用的这种方法假定冲突是不可能发生的,并且不会阻塞正在尝试的操作。 然而,如果源数据在读写当中被修改,更新将会失败。应用程序接下来将决定该如何解决冲突。 例如,可以重试更新、使用新的数据、或者将相关情况报告给用户。

img

4、实现_version乐观锁更新文档

img

本次操作使用的版本时7.12.1 version关键字已经被淘汰了不能使用。

5、ES新版本(7.x)不使用version进行并发版本控制 if_seq_no=版本值&if_primary_term=文档位置

_seq_no:文档版本号,作用同_version

_primary_term:文档所在位置

img

  • 17
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Elasticsearch DSL语法是一种用于构建Elasticsearch查询的Python库。它提供了一种简单而强大的方式来构建复杂的查询和聚合操作。DSL语法使用Python的面向对象语法来构建查询,使得代码易于阅读和维护。它支持各种查询类型,包括全文搜索、范围查询、过滤器、聚合等。DSL语法还提供了一些方便的方法来处理查询结果,如分页、排序、高亮等。总之,Elasticsearch DSL语法是一个非常有用的工具,可以帮助开发人员更轻松地构建和执行Elasticsearch查询。 ### 回答2: Elasticsearch DSL是一个基于Python的模块,它允许用户以更加方便的方式与Elasticsearch交互。DSL提供了一种更加简洁和可读的语法,减少了编写Elasticsearch查询的复杂性。DSL语法旨在尽可能地呈现Elasticsearch查询的结构。 DSL的主要语法包括以下几个方面: 1.索引:在DSL中,用户需要指定要查询的索引。例如,要查询名为“movies”的索引,用户应该使用以下语法:Index('movies')。 2.查询:设置检索的查询条件。在DSL中,用户可以使用各种查询类型来设置这些条件,例如term,match,range等。例如,要查询字段“title”等于“The Godfather”的文档,用户可以使用以下代码: from elasticsearch_dsl import Search from elasticsearch_dsl.query import Term s = Search().filter(Term(title='The Godfather')) 3.聚合:查询结果的聚合是DSL可以处理的另一个重要方面。用户可以使用各种聚合类型来获得有关查询结果的统计信息,例如总数,平均值,最大值等。例如,要统计字段“rating”的平均值,用户可以使用以下代码: from elasticsearch_dsl import Search from elasticsearch_dsl.aggs import Avg s = Search().agg(Avg('avg_rating', field='rating')) 4.排序:DSL中的排序允许用户根据指定的字段对查询结果进行排序。用户可以使用“sort”方法来设置排序规则,如以下代码所示: from elasticsearch_dsl import Search s = Search().sort('rating') 总之,Elasticsearch DSL语法提供了更强大的、更方便的方式与Elasticsearch进行交互。无论是搜索、聚合还是排序,DSL都可以帮助用户更加简单地构建复杂的查询。 ### 回答3: Elasticsearch DSL(Domain-Specific Language)是 Elasticsearch Python 客户端库实现的一种流畅的Python语法查询语句。Elasticsearch DSL 使Python开发人员能够以简单、易读的方式与 Elasticsearch 进行交互,更加方便地构建复杂的查询语句和聚合操作。下面我将从 dsl 查询语句的特点、基本语法和示例等方面进行详细说明。 Elasticsearch DSL查询语句的特点: 1.以Python方式编写查询语法,更加清晰易读; 2.类似于SQL语句的查询结构,更容易学习和使用; 3.高效的性能和精确的结果,提高了开发效率和用户体验; 4.可以轻松地与Python中的其他库进行集成,增加了开发的灵活性和可扩展性。 Elasticsearch DSL查询语句的基本语法: 1.创建一个查询: from elasticsearch_dsl import Search client = Elasticsearch() # 创建 Elasticsearch 客户端对象 search = Search(using=client) 2.匹配所有文档: search = Search(using=client, index="index_name").query("match_all") 3.匹配查询: search = Search(using=client, index="index_name").query("match", field="value") 4.范围查询: search = Search(using=client, index="index_name").query("range", field={"gte": 10, "lte":20}) 5.多个条件查询: search = Search(using=client, index="index_name").query("bool", must=[Q("match", title="python"), Q("match", content="elasticsearch")]) 6.结果排序和分页查询: search = Search(using=client, index="index_name").query("match", title="python").sort("-date").[0:10] Elasticsearch DSL查询语句示例: 1.查询内容为"python"的文章列表,并按发布时间倒序排序进行分页: s = Search().query("match", title="python").sort("-date").[0:10] response = s.execute() for hit in response: print(hit.title) 2.将通配符查询添加到筛选器列表中: search = Search().filter("wildcard", title="p*").query("match", body="python") response = search.execute() print("Total hits: ", response.hits.total.value) 3.使用子查询搜索不同版本的一个索引: s = Search(index="my-index").query( "bool", must_not=[Q("match", title="python")], should=[Q("match", title="java"), Q("match", title="ruby")] )执行 response = s.execute() print(response.hits.total.value) 总结:Elasticsearch DSL提供了Python化的语法来方便用户进行 Elasticsearch 操作。通过简单的语句即可实现复杂的查询,提高了开发效率和用户体验,开发人员可以很快学会并使用 Elasticsearch DSL
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值