ElasticSearch (DSL)语句
1. DSL查询文档
elasticsearch的查询依然是基于JSON风格的DSL来实现的。
1.1 查询所有
- 查询类型为match_all,没有查询条件
GET /hotel/_search
{
"query": {
"match_all": {}
}
}
1.2 全文检索查询
- match查询:会对用户输入内容分词,然后倒排索引检索
GET /hotel/_search
{
"query": {
"match": {
"name": "北京"
}
}
}
- multi_match 多个字段查询
GET /hotel/_search
{
"query": {
"multi_match": {
"query": "上海",
"fields": ["city","name"]
}
}
}
-
match和multi_match的区别是什么?
-
match:根据一个字段查询
-
multi_match:根据多个字段查询,参与查询字段越多,查询性能越差
-
1.3 精确查询
-
精确查询一般是查找keyword、数值、日期、boolean等类型字段。所以不会对搜索条件分词。常见的有:
- term:根据词条精确值查询
- range:根据数值范围查询,可以是数值、日期的范围
-
term精确查询
GET /hotel/_search { "query": { "term": { "brand": { "value": "7天酒店" } } } }
-
range范围查询:
GET /hotel/_search { "query": { "range": { "price": { "gte": 100, "lte": 200 } } } }
1.4 地理查询
地理查询:根据经纬度查询。
- geo_bounding_box:查询geo_point值落在某个矩形范围的所有文档
GET /hotel/_search
{
"query": {
"geo_bounding_box": {
"location": {
"top_left": {
"lat": "31.1",
"lon": "121.5"
},
"bottom_right": {
"lat": "30.9",
"lon": "121.1"
}
}
}
}
}
- geo_distance:查询到指定中心点小于某个距离值的所有文档
GET /hotel/_search
{
"query": {
"geo_distance": {
"distance": "15km",
"location": "31.216843,121.533446"
}
}
}
1.5 复合查询
复合(compound)查询:复合查询可以将其它简单查询组合起来,实现更复杂的搜索逻辑。常见的有两种:
- fuction score:算分函数查询,可以控制文档相关性算分,控制文档排名
- bool query:布尔查询,利用逻辑关系组合多个其它的查询,实现复杂搜索
1)相关性算分
当我们利用match查询时,文档结果会根据与搜索词条的关联度打分(_score),返回结果时按照分值降序排列。
[
{
"_score": 17.850193,
"_source": {
"name": "xx酒店真不错",
}
},
{
"_score": 12.259849,
"_source": {
"name": "xx2酒店真不错",
}
},
{
"_score": 11.91091,
"_source": {
"name": "xx3酒店真不错",
}
}
]
elasticsearch会根据词条和文档的相关度做打分,算法由两种
- TF-IDF算法
- BM25算法,elasticsearch5.1版本后采用的算法
2)算分函数查询
根据相关度打分是比较合理的需求,但合理的不一定是产品经理需要的。
要想人为控制相关性算分,就需要利用elasticsearch中的 function score 查询。
- 语法说明
GET /hotel/_search
{
"query": {
"function_score": {
"query": {"match": {"name": "上海外滩"} # 原始查询条件,搜索文档并根据相关性打分(query score)
},
"functions": [
{
"filter": {"term": {"brand": "如家"}}, # 过滤条件,符合条件的文档才会被重新算分
"weight": 5 # 算分函数,算法函数称为function score,将来会与query score运算,得到新算法
}
],
"boost_mode": "sum" # 加权模式,定义function score与query score 的运算方式
}
}
}
function score 查询中包含四部分内容:
- 原始查询 条件:query部分,基于这个条件搜索文档,并且基于BM25算法给文档打分,原始算分(query score)
- 过滤条件:filter部分,符合该条件的文档才会重新算分
- 算分函数:符合filter条件的文档要根据这个函数做运算,得到的函数算分(function score),有四种函数
- weight:函数结果是常量
- field_value_factor:以文档中的某个字段值作为函数结果
- random_score:以随机数作为函数结果
- script_score:自定义算分函数算法
- 运算模式:算分函数的结果、原始查询的相关性算分,两者之间的运算方式,包括:
- multiply:相乘
- replace:用function score替换query score
- 其它,例如:sum、avg、max、min
function score 的运行流程如下:
- 1)根据原始条件查询搜索文档,并且计算相关性算分,称为原始算分(query score)
- 2)根据过滤条件,过滤文档
- 3)符合过滤条件的文档,基于算分函数运算,得到函数算分(function score)
- 4)将原始算分(query score)和函数算分(function score)基于运算模式做运算,得到最终结果,作为相关性算分。
3)布尔查询
布尔查询是一个或多个查询子句的组合,每一个子句就是一个子查询。子查询的组合方式有:
- must:必须匹配每个子查询,类似【与】
- should:选择性匹配子查询,类似【或】
- must_not:必须不匹配,不参与算分,类似【非】
- filter:必须匹配,不参与算分
注意:参与打分的字段越多,查询的性能也越差
建议:
- 搜索框的关键字搜索,是全文检索查询,使用must查询,参与算分
- 其它过滤条件,采用filter查询。不参与算分
2. 搜索结果处理
搜索的结果可以按照用户指定的方式去处理或展示。
2.1 排序
elasticsearch默认是根据相关度算分(_score)来排序,但是也支持自定义方式对搜索结果排序。可以排序字段类型有:keyword类型、数值类型、地理坐标类型、日期类型等。
1)普通字段排序
-
keyword、数值、日期类型排序的语法基本一致。
-
排序条件是一个数组,也就是可以写多个排序条件。按照声明的顺序,当第一个条件相等时,再按照第二个条件排序,以此类推
例:酒店数据按照用户评价(score)降序排序,评价相同的按照价格(price)升序排序
GET /hotel/_search
{
"query": {
"match_all": {}
},
"sort": [
{
"score": "desc"
},
{
"price": "desc"
}
]
}
2)地理坐标排序
地理坐标排序略有不同。
这个查询的含义是:
- 指定一个坐标,作为目标点
- 计算每一个文档中,指定字段(必须是geo_point类型)的坐标 到目标点的距离是多少
- 根据距离排序
高德地图获取自身经纬度:高德地图API
例:按照到自己位置坐标的距离升序排序
GET /hotel/_search
{
"query": {
"match_all": {}
},
"sort": [
{
"_geo_distance": {
"location": "31.034,121.612",
"order": "asc",
"unit": "km"
}
}
]
}
2.2 分页
1)基本分页
- elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。
- elasticsearch中通过修改from、size参数来控制要返回的分页结果
GET /hotel/_search
{
"query": {
"match_all": {}
},
"from": 0,
"size": 5,
"sort": {
"price": "asc"
}
}
2)深度分页问题
如果要查询990~1000的数据,查询逻辑要这么写
GET /hotel/_search
{
"query": {
"match_all": {}
},
"from": 990,
"size": 10,
"sort": {
"price": "asc"
}
}
这里是查询990开始的数据,也就是 第990~第1000条 数据。
不过,elasticsearch内部分页时,必须先查询 0~1000条,然后截取其中的990 ~ 1000的这10条:
查询TOP1000,如果es是单点模式,这并无太大影响。
但是elasticsearch将来一定是集群,例如我集群有5个节点,我要查询TOP1000的数据,并不是每个节点查询200条就可以了。
因为节点A的TOP200,在另一个节点可能排到10000名以外了。
因此要想获取整个集群的TOP1000,必须先查询出每个节点的TOP1000,汇总结果后,重新排名,重新截取TOP1000。
那如果我要查询9900~10000的数据呢?是不是要先查询TOP10000呢?那每个节点都要查询10000条?汇总到内存中?
当查询分页深度较大时,汇总数据过多,对内存和CPU会产生非常大的压力,因此elasticsearch会禁止from+ size 超过10000的请求。
针对深度分页,ES提供了两种解决方案,官方文档:
- search after:分页时需要排序,原理是从上一次的排序值开始,查询下一页数据。官方推荐使用的方式。
- scroll:原理将排序后的文档id形成快照,保存在内存。官方已经不推荐使用。
分页查询的常见实现方案以及优缺点:
-
from + size
:- 优点:支持随机翻页
- 缺点:深度分页问题,默认查询上限(from + size)是10000
- 场景:百度、京东、谷歌、淘宝这样的随机翻页搜索
-
search after
:- 优点:没有查询上限(单次查询的size不超过10000)
- 缺点:只能向后逐页查询,不支持随机翻页
- 场景:没有随机翻页需求的搜索,例如手机向下滚动翻页
-
scroll
:- 优点:没有查询上限(单次查询的size不超过10000)
- 缺点:会有额外内存消耗,并且搜索结果是非实时的
- 场景:海量数据的获取和迁移。从ES7.1开始不推荐,建议用 search after方案。
2.3 亮高
1)亮高原理
我们在百度,京东搜索时,关键字会变成红色,比较醒目,这叫高亮显示:
高亮显示的实现分为两步:
- 1)给文档中的所有关键字都添加一个标签,例如
<em>
标签 - 2)页面给
<em>
标签编写CSS样式
2)实现亮高
- 高亮是对关键字高亮,因此搜索条件必须带有关键字,而不能是范围这样的查询。
- 默认情况下,高亮的字段,必须与搜索指定的字段一致,否则无法高亮
- 如果要对非搜索字段高亮,则需要添加一个属性:required_field_match=false
示例:
# 高亮查询,条件一定要使用全文检索查询
GET /hotel/_search
{
"query": {
"match": {
"all": "如家"
}
},
"highlight": {
"fields": {
"name": {
"pre_tags": "<em>",
"post_tags": "</em>",
"require_field_match": "false"
}
}
}
}