elasticsearch入门2

最新推荐文章于 2024-04-19 22:22:25 发布

mymk01

最新推荐文章于 2024-04-19 22:22:25 发布

阅读量975

点赞数

分类专栏：微服务文章标签： elasticsearch 大数据 big data

本文链接：https://blog.csdn.net/m0_61107050/article/details/122387261

版权

微服务专栏收录该内容

17 篇文章 0 订阅

订阅专栏

1.DSL查询文档

1.DSL查询分类

Elasticsearch提供了基于JSON的DSL（Domain Specific Language）来定义查询。常见的查询类型包括：

• 查询所有：查询出所有数据，一般测试用。例如： match_all

• 全文检索（ full text ）查询：利用分词器对用户输入内容分词，然后去倒排索引库中匹配。例如：

• match_query

• multi_match_query

• 精确查询：根据精确词条值查找数据，一般是查找 keyword 、数值、日期、 boolean 等类型字段。例如：

• ids

• range

• term

• 地理（ geo ）查询：根据经纬度查询。例如：

• geo_distance

• geo_bounding_box

• 复合（ compound ）查询：复合查询可以将上述各种查询条件组合起来，合并查询条件。例如：

• bool

• function_score

查询的基本语法如下：

GET /indexName/_search
{
  "query": {
    "查询类型": {
      "查询条件": "条件值"
    }
  }
}
// 查询所有
GET /indexName/_search
{
  "query": {
    "match_all": {
    }
  }
}

2.全文检索查询

全文检索查询，会对用户输入内容分词，常用于搜索框搜索：

match查询：全文检索查询的一种，会对用户输入内容分词，然后去倒排索引库检索，语法：

GET /indexName/_search
{
  "query": {
    "match": {
      "FIELD": "TEXT"
    }
  }
}

multi_match：与match查询类似，只不过允许同时查询多个字段，参与查询字段越多，查询性能越差

GET /indexName/_search
{
  "query": {
    "multi_match": {
      "query": "TEXT",
      "fields": ["FIELD1", " FIELD12"]
    }
  }
}

3.精确查询

精确查询常见的有哪些？

• term 查询：根据词条精确匹配，一般搜索 keyword 类型、数值类型、布尔类型、日期类型字段

• range 查询：根据数值范围查询，可以是数值、日期的范围

term查询：

// term查询
GET /indexName/_search
{
  "query": {
    "term": {
      "FIELD": {
        "value": "VALUE"
      }
    }
  }
}
#term查询
GET /hotel/_search
{
  "query": {
    "term": {
      "city": {
        "value": "上海"
      }
    }
  }
}

range查询：

// range查询
GET /indexName/_search
{
  "query": {
    "range": {
      "FIELD": {
        "gte": 10,
        "lte": 20
      }
    }
  }
}
#range查询
GET /hotel/_search
{
  "query": {
    "range": {
      "price": {
        "gte": 1000,
        "lte": 3000
      }
    }
  }
}

4.地理查询

根据经纬度查询，官方文档。例如：
geo_bounding_box：查询geo_point值落在某个矩形范围的所有文档(使用较少)

// geo_bounding_box查询
GET /indexName/_search
{
  "query": {
    "geo_bounding_box": {
      "FIELD": {
        "top_left": {
          "lat": 31.1,
          "lon": 121.5
        },
        "bottom_right": {
          "lat": 30.9,
          "lon": 121.7
        }
      }
    }
  }
}

根据经纬度查询，官方文档。例如：
geo_distance：查询到指定中心点小于某个距离值的所有文档

// geo_distance 查询
GET /indexName/_search
{
  "query": {
    "geo_distance": {
      "distance": "15km",
      "FIELD": "31.21,121.5"
    }
  }
}

5.复合查询

复合查询可以将其它简单查询组合起来，实现更复杂的搜索逻辑，例如：
fuction score：算分函数查询，可以控制文档相关性算分，控制文档排名。例如百度竞价

1.相关性算分

当我们利用match查询时，文档结果会根据与搜索词条的关联度打分（_score），返回结果时按照分值降序排列

elasticsearch中的相关性打分算法是什么？

• TF-IDF ：在 elasticsearch5.0 之前，会随着词频增加而越来越大

• BM25 ：在 elasticsearch5.0 之后，会随着词频增加而增大，但增长曲线会趋于水平

2.Function Score Query

使用 function score query，可以修改文档的相关性算分（query score），根据新得到的算分排序。

3.Boolean Query

布尔查询是一个或多个查询子句的组合。子查询的组合方式有：

• must ：必须匹配每个子查询，类似“与”

• should ：选择性匹配子查询，类似“或”

• must_not ：必须不匹配，不参与算分，类似“非”

• filter ：必须匹配，不参与算分

GET /hotel/_search
{
  "query": {
    "bool": {
      "must": [
        {"term": {"city": "上海" }}
      ],
      "should": [
        {"term": {"brand": "皇冠假日" }},
        {"term": {"brand": "华美达" }}
      ],
      "must_not": [
        { "range": { "price": { "lte": 500 } }}
      ],
      "filter": [
        { "range": {"score": { "gte": 45 } }}
      ]
    }
  }
}

2.搜索结果处理

1.排序

elasticsearch支持对搜索结果排序，默认是根据相关度算分（_score）来排序。可以排序字段类型有：keyword类型、数值类型、地理坐标类型、日期类型等。

GET /indexName/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "FIELD": "desc"  // 排序字段和排序方式ASC、DESC
    }
  ]
}
GET /indexName/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "_geo_distance" : {
          "FIELD" : "纬度，经度",
          "order" : "asc",
          "unit" : "km"
      }
    }
  ]
}

2.分页

elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。elasticsearch中通过修改from、size参数来控制要返回的分页结果：

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "from": 990, // 分页开始的位置，默认为0
  "size": 10, // 期望获取的文档总数
  "sort": [
    {"price": "asc"}
  ]
}

3.深度分页问题

ES是分布式的，所以会面临深度分页问题。例如按price排序后，获取from = 990，size =10的数据：

1. 首先在每个数据分片上都排序并查询前 1000 条文档。

2. 然后将所有节点的结果聚合，在内存中重新排序选出前 1000 条文档

3. 最后从这 1000 条中，选取从 990 开始的 10 条文档

如果搜索页数过深，或者结果集（from + size）越大，对内存和CPU的消耗也越高。因此ES设定结果集查询的上限是10000

深度分页解决方案

针对深度分页，ES提供了两种解决方案，官方文档：

• search after ：分页时需要排序，原理是从上一次的排序值开始，查询下一页数据。官方推荐使用的方式。

• scroll ：原理将排序数据形成快照，保存在内存。官方已经不推荐使用。

4.高亮

高亮：就是在搜索结果中把搜索关键字突出显示。
原理是这样的：

• 将搜索结果中的关键字用标签标记出来

• 在页面中给标签添加 css 样式

GET /hotel/_search
{
  "query": {
    "match": {
      "FIELD": "TEXT"
    }
  },
  "highlight": {
    "fields": { // 指定要高亮的字段
      "FIELD": {
        "pre_tags": "<em>",  // 用来标记高亮字段的前置标签
        "post_tags": "</em>" // 用来标记高亮字段的后置标签
      }
    }
  }
}

5.搜索结果处理整体语法

GET /hotel/_search
{
  "query": {
    "match": {
      "name": "如家"
    }
  },
  "from": 0, // 分页开始的位置
  "size": 20, // 期望获取的文档总数
  "sort": [ 
    {  "price": "asc" }, // 普通排序
    {
      "_geo_distance" : { // 距离排序
          "location" : "31.040699,121.618075", 
          "order" : "asc",
          "unit" : "km"
      }
    }
  ],
  "highlight": {
    "fields": { // 高亮字段
      "name": {
        "pre_tags": "<em>",  // 用来标记高亮字段的前置标签
        "post_tags": "</em>" // 用来标记高亮字段的后置标签
      }
    }
  }
}

3.RestClient查询文档

1.快速入门

    @Test
    void testMatchAll() throws IOException {
        //1.准备Request
        SearchRequest request = new SearchRequest("hotel");
        //2.准备DSL
        request.source().query(QueryBuilders.matchAllQuery());
        //3.发送请求
        SearchResponse response = client.search(request, RequestOptions.DEFAULT);
        //4.解析响应
        SearchHits searchHits = response.getHits();
        //4,1获取总条数
        long total = searchHits.getTotalHits().value;
        System.out.println("共索索到"+total);
        //4.2文档数组
        SearchHit[] hits = searchHits.getHits();
        //4.3遍历
        for (SearchHit hit : hits) {
            //获取文档source
            String json = hit.getSourceAsString();
            //返序列化
            HotelDoc hotelDoc = JSON.parseObject(json, HotelDoc.class);
            System.out.println("hoteldoc= "+hotelDoc);
        }
        System.out.println(response);
    }

RestAPI中其中构建查询条件的核心部分是由一个名为QueryBuilders的工具类提供的，其中包含了各种查询方法：

查询的基本步骤是：

1. 创建 SearchRequest 对象

2. 准备 Request.source () ，也就是 DSL 。

① QueryBuilders 来构建查询条件

② 传入 Request.source () 的 query() 方法

3. 发送请求，得到结果

4. 解析结果（参考 JSON 结果，从外到内，逐层解析）

2.全文检索查询

3.精确查询

4.复合查询-boolean query

5.排序和分页

6.高亮

mymk01

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
打赏
0
评论
elasticsearch入门2

1.DSL查询文档1.DSL查询分类Elasticsearch提供了基于JSON的DSL（Domain Specific Language）来定义查询。常见的查询类型包括：•查询所有：查询出所有数据，一般测试用。例如：match_all•全文检索（full text）查询：利用分词器对用户输入内容分词，然后去倒排索引库中匹配。例如：•match_query•multi_match_query•精确查询：根据精确词条值查找数据，一般是查找keyword、数值、日期、boole.
复制链接

扫一扫