白话Elasticsearch01- 结构化搜索之使用term query来搜索数据

最新推荐文章于 2024-03-04 18:07:30 发布
最新推荐文章于 2024-03-04 18:07:30 发布
阅读量9.1k 收藏 3
点赞数 2
分类专栏： 【ES-Elasticsearch】 文章标签： es term  filter
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yangshangwei/article/details/90116340
版权

文章目录


在这里插入图片描述

需求描述

这个系列我们来跟着中华石杉老师来系统的学习下ES

课程地址： https://www.roncoo.com/view/55

需求背景： 一个普通的论坛，根据用户ID、是否隐藏、帖子ID、发帖日期来搜索帖子

ES版本

我这里用的版本是ES6.4.1 , 只要是5.X以上的版本都使用。目前ES的版本已经到了7.0.

Kibana用的也是对应的kibana-6.4.1-windows-x86_64

Term Filter 不推荐使用了，推荐使用 Term Query

https://www.elastic.co/guide/en/elasticsearch/reference/6.4/query-dsl-term-filter.html#query-dsl-term-filter

在这里插入图片描述
6.4版本的 Term Query说明

https://www.elastic.co/guide/en/elasticsearch/reference/6.4/query-dsl-term-query.html

_bulk 批量写几条数据

POST /forum/article/_bulk
{ "index": { "_id": 1 }}
{ "articleID" : "XHDK-A-1293-#fJ3", "userID" : 1, "hidden": false, "postDate": "2017-01-01" }
{ "index": { "_id": 2 }}
{ "articleID" : "KDKE-B-9947-#kL5", "userID" : 1, "hidden": false, "postDate": "2017-01-02" }
{ "index": { "_id": 3 }}
{ "articleID" : "JODL-X-1937-#pV7", "userID" : 2, "hidden": false, "postDate": "2017-01-01" }
{ "index": { "_id": 4 }}
{ "articleID" : "QQPX-R-3956-#aD8", "userID" : 2, "hidden": true, "postDate": "2017-01-02" }

_bulk 用法

BULK API官网说明： https://www.elastic.co/guide/en/elasticsearch/reference/current/docs-bulk.html

简单说下_bulk api , 批量执行，对执行的json串有严格的格式要求，不要格式化JSON串
在这里插入图片描述

返回结果分析

直接在kibana的DevTool中执行上述JSON即可

在这里插入图片描述

返回结果

#! Deprecation: the default number of shards will change from [5] to [1] in 7.0.0; if you wish to continue using the default of [5] shards, you must manage this on the create index request or with an index template
{
  "took": 1581,
  "errors": false,
  "items": [
    {
      "index": {
        "_index": "forum",
        "_type": "article",
        "_id": "1",
        "_version": 1,
        "result": "created",
        "_shards": {
          "total": 2,
          "successful": 1,
          "failed": 0
        },
        "_seq_no": 0,
        "_primary_term": 1,
        "status": 201
      }
    }
    ......篇幅原因,省略其他三个的显示
    }
  ]
}

结果说明：

在这里插入图片描述

  • took： query的时间，不包括fetch

再看下_shard节点下的total和successful信息

  • total: 2 一共两个shard需要执行 ，一个primary shard ,一个
    replicas shard . 因为我们在同一个机器上起的(默认使用的 主shard 5 副本shard 1的配置)。 主shard 和 副本shard不能在同一个node上，所以该副本shard并未分配，所以这里successful 为1 。

通过head插件我们也可以窥之一二

在这里插入图片描述

字段Dynamic Mapping

  • POST /forum/article/_bulk es会自动创建名为forum的index和名为article的 type
  • 未提前设置field类型的话，es会通过Dynamic Mapping的方式来自动映射字段类型 ，我们来看下 GET /forum/_mapping/article
执行：
GET /forum/_mapping/article

返回：
{
  "forum": {
    "mappings": {
      "article": {
        "properties": {
          "articleID": {
            "type": "text",
            "fields": {
              "keyword": {
                "type": "keyword",
                "ignore_above": 256
              }
            }
          },
          "hidden": {
            "type": "boolean"
          },
          "postDate": {
            "type": "date"
          },
          "userID": {
            "type": "long"
          }
        }
      }
    }
  }
}

Dynamic Mapping 中 text类型的字段

我们重点来看下 articleID

  • es 5.x版本中对于type=text，默认会设置两个field， 一个是field本身，比如articleID，就是分词的， 另外一个，就是field.keyword，在这里就是用的话articleID.keyword，默认不分词，最多保留256个字符（"ignore_above": 256）

articleID.keyword，是es新版本内置建立的field，就是不分词的。所以一个articleID过来的时候，会建立两次索引，一次是自己本身，是要分词的，分词后放入倒排索引；
另外一次是基于articleID.keyword，不分词，保留256个字符最多，直接一个字符串放入倒排索引中。

所以term filter，对text过滤，可以考虑使用内置的field.keyword来进行匹配。但是有个问题，默认就保留256个字符。所以尽可能还是自己去手动建立索引，指定not_analyzed吧。在新版本的es中，不需要指定not_analyzed也可以，将type=keyword即可。

"articleID": {
   "type": "text",
    "fields": {
      "keyword": {
        "type": "keyword",
        "ignore_above": 256
 		 }
    }
  },

查看分词

查看下Dynamic mapping下，text类型的分词

field

GET /forum/_analyze
{
  "field": "articleID",
  "text": "XHDK-A-1293-#fJ3"
}

在这里插入图片描述

可以看到 articleID建立索引的时候，XHDK-A-1293-#fJ3被分词成了 xhdk，a，1293，fj3

默认是analyzed的text类型的field，建立倒排索引的时候，就会对所有的articleID分词，分词以后，原本的articleID就没有了，只有分词后的各个word存在于倒排索引中。所以根据XHDK-A-1293-#fJ3 去查询，肯定是在 xhdk，a，1293，fj3 中查找不到数据的。

field.keyword

GET /forum/_analyze
{
  "field": "articleID.keyword",
  "text": "XHDK-A-1293-#fJ3"
}

在这里插入图片描述

term，是不对搜索文本分词的，直接将输入的内容去倒排索引中匹配，XHDK-A-1293-#fJ3 --> XHDK-A-1293-#fJ3；但是articleID建立索引的时候，XHDK-A-1293-#fJ3 --> xhdk，a，1293，fj3 ,所以使用 articleID是查不到的， articleID.keyword 是可以查到的。 如下所示

在这里插入图片描述

在这里插入图片描述

几个小例子

term filter/query：对搜索文本不分词，直接拿去倒排索引中匹配，你输入的是什么，就去匹配什么。 比如说，如果对搜索文本进行分词的话，“helle world” --> “hello”和“world”，两个词分别去倒排索引中匹配 。 term，“hello world” --> “hello world”，直接去倒排索引中匹配“hello world”

这里我们不关心相关度即_score，仅仅是希望通过filter过滤出来数据，所以 使用了 constant_score , 设置相关度都是1.

先通过head插件看下数据 在这里插入图片描述

根据用户ID搜索帖子

GET /forum/article/_search
{
  "query": {
    "constant_score": {
      "filter": {
        "term": {
          "userID": 1
        }
      }
    }
  }
}

在这里插入图片描述

Term Query的写法（推荐）

GET /forum/article/_search
{
  "query": {
    "term": {
      "userID": "1"
    }
  }
}

搜索没有隐藏的帖子

GET /forum/article/_search
{
  "query": {
    "constant_score": {
      "filter": {
        "term": {
          "hidden": false
        }
      }
    }
  }
}

在这里插入图片描述

Term Query的写法（推荐）

{
  "query": {
    "term": {
      "hidden": false
    }
  }
}

根据发帖日期搜索帖子

GET /forum/article/_search
{
  "query": {
    "constant_score": {
      "filter": {
        "term": {
          "postDate": "2017-01-02"
        }
      }
    }
  }
}

在这里插入图片描述

Term Query的写法（推荐）

GET /forum/article/_search
{
  "query": {
    "term": {
      "postDate": "2017-01-02"
    }
  }
}

根据帖子ID搜索帖子

GET /forum/article/_search
{
  "query": {
    "constant_score": {
      "filter": {
        "term": {
          "articleID": "QQPX-R-3956-#aD8"
        }
      }
    }
  }
}

在这里插入图片描述

Term Query的写法（推荐）

GET /forum/article/_search
{
  "query": {
    "term": {
      "articleID": "QQPX-R-3956-#aD8"
    }
  }
}

删除索引，指定articleID的类型

这种Dynamic mapping的情况，肯定是查找不到数据了，要么指定 articleID.keyword。 更推荐自己设置类型，设置成 not_analyzed，或者直接将articleID设置为keyword更加方便。

那我们按照自己设置字段类型keyword的方式来演示下吧

先删掉原来的forum索引

DELETE /forum

手动设置 articleID的类型为 keyword

PUT /forum
{
  "mappings":{
    "article":{
      "properties":{
        "articleID":{
          "type":"keyword"
        }
      }
    }
  }
}

这样的话，就建好了一个 只有一个字段的type. 字段类型确定后无法修改，因为涉及到底层lucene的全文检索。 但是可以增加字段，通过如下的方式，_bulk写入数据的时候，新增几个字段，因为没有指定字段类型，所以是Dynamic Mapping的方式创建的

POST /forum/article/_bulk
{ "index": { "_id": 1 }}
{ "articleID" : "XHDK-A-1293-#fJ3", "userID" : 1, "hidden": false, "postDate": "2017-01-01" }
{ "index": { "_id": 2 }}
{ "articleID" : "KDKE-B-9947-#kL5", "userID" : 1, "hidden": false, "postDate": "2017-01-02" }
{ "index": { "_id": 3 }}
{ "articleID" : "JODL-X-1937-#pV7", "userID" : 2, "hidden": false, "postDate": "2017-01-01" }
{ "index": { "_id": 4 }}
{ "articleID" : "QQPX-R-3956-#aD8", "userID" : 2, "hidden": true, "postDate": "2017-01-02" }

看下 field的类型

GET /forum/_mapping/article

在这里插入图片描述
再次查询下 ，指定articleID的类型为keyword，查询到了数据。

在这里插入图片描述

总结一下 term

（1）term filter：根据exact value进行搜索，数字、boolean、date天然支持
（2）text类型的字段需要建索引时指定为not_analyzed或者设置为keyword，才能用term query
（3）term 相当于SQL中的单个where条件

小小工匠
关注
  • 2
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
termquery是什么_Elasticsearch 5.x 关于term query和match query的认识
weixin_33291014的博客
12-24 1099
一、基本情况前言：term query和match query牵扯的东西比较多，例如分词器、mapping、倒排索引等。我结合官方文档中的一个实例，谈谈自己对此处的理解string类型在es5.*分为text和keyword。text是要被分词的，整个字符串根据一定规则分解成一个个小写的term，keyword类似es2.3中not_analyzed的情况。string数据put到elastics...
Elasticsearch（三）使用 Kibana 操作 ES
热门推荐
wanght笔记
12-15 1万+
文章目录下载 Kibana 镜像启动 Kibana 容器索引、分片和副本索引索引分片索引副本创建索引映射（数据结构）字段的数据类型创建映射查看映射添加文档修改文档删除文档删除索引 下载 Kibana 镜像 docker pull kibana:7.9.3 启动 Kibana 容器 docker run \ -d \ --name kibana \ --net es-net \ -p 5601:5601 \ -e ELASTICSEARCH_HOSTS='["http://node1:9200","ht
ElasticSearch之TermQuery和MatchQuery
weixin_44692700的博客
02-13 1万+
ElasticSearch之TermQuery和MatchQuery一、TermQuery1.验证Term查询2.Term特殊用法3.跳过算分二、MatchQuery1.验证Match查询2.Operator提高精准度3.minimum_should_match提高精准度4.Match Query的查询过程三、小结 在日常使用ES的时候，经常会将TermQuery和MatchQuery混淆，不知道该使用什么查询。本文举例说明。 一、TermQuery Term是表达语意的最小单位。搜索和利用统计语言模型进行
15、子查询注意事项
you can you up up up的博客
10-15 1095
在完成较复杂的数据查询时，经常会使用到子查询，编写子查询语句时，要注意如下事项。 1) 子查询语句可以嵌套在 SQL 语句中任何表达式出现的位置 在 SELECT 语句中，子查询可以被嵌套在 SELECT 语句的列、表和查询条件中，即 SELECT 子句，FROM 子句、WHERE 子句、GROUP BY 子句和 HAVING 子句。 前面已经介绍了 WHERE 子句中嵌套子查询的使用方法，下面是子查询在 SELECT 子句和 FROM 子句中的使用语法。 嵌套在 SELECT 语句的 SELECT 子句中
【Elasticsearch查询】精确查询
qq_44849679的博客
02-23 820
必须匹配的词的数量在每个文档中都是不同的，或者由最小应匹配字段控制，或者在每个文档中计算最小应匹配脚本。全文查询将在执行之前对查询字符串进行分词，而词项级查询将对存储在反向索引中的精确词项进行操作，并且执行前对只对具有normalizer属性的keyword字段词项进行规范化。与bool查询中的“NOT”子句不同，它仍然选择包含不需要的词语的文档，但会降低它们的总体得分。复合查询封装了其他复合查询或子查询，可以组合它们的结果和分数，改变它们的行为，或者从查询切换到过滤上下文。)和多字符通配符(*)
4.2 ElasticSearch搜索之Term Query
Steven的博客
09-04 1391
1.term (1).query 将查询语句作为整体进行查询，不对查询语句做分词处理，如elasticsearch中存储了“How are you!”文档，且待查询语句为“How are you”，那么查询结果中不会匹配到“How old are you!”或者“How are you!”。 POST /people/_search { "query": { "term": { "description": "How are you!" } } } { "took" : 0,
Elasticsearch 中 term和 query 哪个更精确，有什么区别
lxw1844912514的博客
11-15 465
这可能导致一些意外的结果，因为按照字母顺序比较的字符串与按照数字顺序比较的数字不同。在Elasticsearch中，字符型字段（通常是字符串类型）可以进行一些基本的比较，但不同于数字比较或日期比较，字符串的比较可能涉及到不同的规则和行为。总体而言，字符串字段可以进行比较，但你需要小心理解使用字典排序可能引入的问题，并根据你的需求选择适当的字段类型或使用脚本进行比较。为了解决这个问题，Elasticsearch 提供了一些功能，比如使用显式的映射来指定字段类型，以及使用脚本来执行更复杂的比较。
elasticsearch插件delete-by-query
12-04
ElasticSearch之插件Delete-by-Query，当es想批量删除数据时，安装该插件，可用将查询的结果数据进行批量删除。
ElasticSearch搜索引擎使用-从0到1
02-25
两年前有机会接触过elasticsearch，但是未做深入学习，只是工作中用到了。越来越发现es是个不错的好东西，所以花了点时间好好学习了下。在学习过程中也发现了一些问题，网上大多资料都很零散，大部分都是实验性的...
springboot2+elasticsearch7+可视化es-head+cerebro整合搜索
06-16
使用原生的byte[]或者String使用Map方式，会自动转换成与之等价的JSON使用第三方库来生成序列化beans，如JackJSON、FastJSON等使用内置的帮助类XContentFactory.jsonBuilder()前端技术 ：ElasticSearch-head插件...
elasticsearch-x-content-6.3.0-API文档-中英对照版.zip
06-07
赠送jar包：elasticsearch-x-content-6.3.0.jar； 赠送原API文档：elasticsearch-x-content-6.3.0-javadoc.jar； 赠送源代码：elasticsearch-x-content-6.3.0-sources.jar； 赠送Maven依赖信息文件：elasticsearch-x...
Elasticsearch语法知多少之Term query
前者已逝，后者未至。
08-06 700
掌握精准搜索，包括单值精确搜索和多值精确搜索。本文会列举各种常见的案例，通过这些案例来熟悉精准查询各个参数的功能和使用方法。
Lucene5学习之TermQuery使用
一个有趣、有料、有内涵的地方!
07-19 296
一个Term表示着一个来自文本中的一个单词(因为老外眼里只有单词，没有中文，在中文里word可以理解为一个词语)，它是一个搜索单元，它有两部分组成，单词文本和域的名称...
Elasticsearch的TermsQuery慢查询分析和优化
hellozhxy的博客
08-02 1163
本篇文章主要记录业务上的一个TermsQuery优化和分析的过程和一些思考。在使用ES的时候，经常会遇到慢查询，这时候可以利用profile进行分析，当利用profile也查看不出什么端倪时候，可以尝试通过阅读代码查看查询为什么这么慢。如下是一个我们内部业务的一个慢查询，经常出现4s左右的延时，一模一样的查询，但是延时不一样，且很难复现。
elasticsearch查询term等级（query查询）
white_while的博客
01-26 3617
elasticsearch查询笔记
ES入门四：Term Query Api实践
最新发布
一只小星星
03-04 1276
Term Query Api返回在指定字段中准确包含了检索内容的文档，你可以使用此Api去查询精确值的字段，如书本Id、价格等，其示例如下：!返回结果：!
eclipse无法查询中文条件_巨坑！！！es之termQuery精确查询失效问题解决
weixin_39708822的博客
11-23 1962
问题：前几天在写一个小项目，其中涉及到精确查询返回指定字段，当时没想那么多直接写的TermQueryBuilder 按理来说是应该有返回结果的，可是查询的时候要么就是没有，要么就是结果很奇怪。关于这个debug也debug了，逻辑代码也没啥问题。后来查了很多资料终于找到了解决办法。解决办法：将字段的type设置为keyword，即TermQueryBuilder 问题解决。原因：term做精确查询...
Kibana操作ElasticSearch:词条匹配（term）聚合（terms）
Kruskual的博客
12-22 1542
term term查询被用于精确值匹配，这些精确值可能是数字，时间，布尔值或者那些 未分词 的字符串。 terms terms聚合，相当于sql中的groupby
在使用elasticsearch-sql框架中,怎么使用sql数据插入ES
05-24
使用elasticsearch-sql框架，可以通过以下步骤将SQL数据插入ES： 1. 创建一个ES索引，定义字段映射 2. 使用ES-SQL框架连接ES，执行SQL查询获取数据 3. 遍历查询结果，使用ES-SQL框架提供的API将数据插入ES 下面是一个示例代码，演示如何使用ES-SQL框架将SQL数据插入ES： ```java import io.github.iamazy.elasticsearch.dsl.sql.parser.SqlParser; import org.elasticsearch.action.bulk.BulkRequest; import org.elasticsearch.action.bulk.BulkResponse; import org.elasticsearch.client.RequestOptions; import org.elasticsearch.client.RestHighLevelClient; import org.elasticsearch.index.query.QueryBuilders; import org.elasticsearch.rest.RestStatus; import org.elasticsearch.search.builder.SearchSourceBuilder; import org.nlpcn.es4sql.exception.SqlParseException; import org.nlpcn.es4sql.query.QueryAction; import org.nlpcn.es4sql.query.SqlElasticRequestBuilder; import java.io.IOException; import java.sql.*; public class SqlToEs { // 定义ES索引名称 private static final String INDEX_NAME = "my_index"; // 定义ES连接客户端 private RestHighLevelClient client; // 定义SQL查询语句 private String sql = "SELECT * FROM my_table WHERE id > 100"; public SqlToEs() { // 初始化ES连接客户端 client = new RestHighLevelClient(); } public void insert() throws SQLException, IOException, SqlParseException { // 解析SQL查询语句 SqlParser sqlParser = new SqlParser(); QueryAction queryAction = sqlParser.parseSelect(sql); // 构建ES查询请求 SqlElasticRequestBuilder requestBuilder = queryAction.explain(); SearchSourceBuilder sourceBuilder = requestBuilder.getSourceBuilder(); sourceBuilder.query(QueryBuilders.matchAllQuery()); String query = sourceBuilder.toString(); // 执行SQL查询获取数据 Connection conn = DriverManager.getConnection("jdbc:mysql://localhost:3306/my_database", "user", "password"); Statement stmt = conn.createStatement(); ResultSet rs = stmt.executeQuery(query); // 遍历查询结果，将数据插入ES BulkRequest request = new BulkRequest(); while (rs.next()) { // 创建一个ES文档 Map<String, Object> document = new HashMap<>(); document.put("id", rs.getInt("id")); document.put("name", rs.getString("name")); document.put("age", rs.getInt("age")); // 添加到批量请求中 request.add(new IndexRequest(INDEX_NAME).source(document)); } // 执行批量请求 BulkResponse bulkResponse = client.bulk(request, RequestOptions.DEFAULT); if (bulkResponse.status() == RestStatus.OK) { System.out.println("数据插入成功！"); } } } ``` 这里使用ES-SQL框架解析SQL查询语句，并构建ES查询请求。然后执行SQL查询获取数据，并遍历查询结果，将数据插入ES。最后使用ES客户端执行批量请求，将数据插入ES。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小小工匠

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值