Elasticsearch四种常见的相关度分数优化方法

最新推荐文章于 2024-04-15 21:34:14 发布
最新推荐文章于 2024-04-15 21:34:14 发布
阅读量466 收藏 1
点赞数
文章标签： 大数据 java json
原文链接：http://www.cnblogs.com/jpfss/p/10794428.html
版权

**1、boost方式 **
简单粗暴，最常用。

需求：查询出title和content中包含java spark的document

方式1：

GET /forum/article/_search
{
  "query": {
    "bool": {
      "should": [
        {
          "match": {
            "title": "java spark"
          }
        },
        {
          "match": {
            "content": "java spark"
          }
        }
      ]
    }
  }
}

结果：

{
  "took": 3,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 2,
    "max_score": 0.970927,
    "hits": [
      {
        "_index": "forum",
        "_type": "article",
        "_id": "5",
        "_score": 0.970927,
        "_source": {
          "articleID": "DHJK-B-1395-#Ky5",
          "userID": 3,
          "hidden": false,
          "postDate": "2017-03-01",
          "tag": [
            "elasticsearch"
          ],
          "tag_cnt": 1,
          "view_cnt": 10,
          "title": "this is spark blog",
          "content": "spark is best big data solution based on scala ,an programming language similar to java spark",
          "sub_title": "haha, hello world",
          "author_first_name": "Tonny",
          "author_last_name": "Peter Smith",
          "new_author_last_name": "Peter Smith",
          "new_author_first_name": "Tonny"
        }
      },
      {
        "_index": "forum",
        "_type": "article",
        "_id": "2",
        "_score": 0.8849759,
        "_source": {
          "articleID": "KDKE-B-9947-#kL5",
          "userID": 1,
          "hidden": false,
          "postDate": "2017-01-02",
          "tag": [
            "java"
          ],
          "tag_cnt": 1,
          "view_cnt": 50,
          "title": "this is java blog",
          "content": "i think java is the best programming language",
          "sub_title": "learned a lot of course",
          "author_first_name": "Smith",
          "author_last_name": "Williams",
          "new_author_last_name": "Williams",
          "new_author_first_name": "Smith"
        }
      },
    ]
  }
}

方式2：

GET /forum/article/_search
{
  "query": {
    "bool": {
      "should": [
        {
          "match": {
            "title": {
              "query": "java spark",
              "boost" : 2
            }
          }
        },
        {
          "match": {
            "content": "java spark"
          }
        }
      ]
    }
  }
}

结果：

{
  "took": 3,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total":2,
    "max_score": 1.258609,
    "hits": [
      {
        "_index": "forum",
        "_type": "article",
        "_id": "5",
        "_score": 1.258609,
        "_source": {
          "articleID": "DHJK-B-1395-#Ky5",
          "userID": 3,
          "hidden": false,
          "postDate": "2017-03-01",
          "tag": [
            "elasticsearch"
          ],
          "tag_cnt": 1,
          "view_cnt": 10,
          "title": "this is spark blog",
          "content": "spark is best big data solution based on scala ,an programming language similar to java spark",
          "sub_title": "haha, hello world",
          "author_first_name": "Tonny",
          "author_last_name": "Peter Smith",
          "new_author_last_name": "Peter Smith",
          "new_author_first_name": "Tonny"
        }
      },
      {
        "_index": "forum",
        "_type": "article",
        "_id": "2",
        "_score": 1.083544,
        "_source": {
          "articleID": "KDKE-B-9947-#kL5",
          "userID": 1,
          "hidden": false,
          "postDate": "2017-01-02",
          "tag": [
            "java"
          ],
          "tag_cnt": 1,
          "view_cnt": 50,
          "title": "this is java blog",
          "content": "i think java is the best programming language",
          "sub_title": "learned a lot of course",
          "author_first_name": "Smith",
          "author_last_name": "Williams",
          "new_author_last_name": "Williams",
          "new_author_first_name": "Smith"
        }
      }
    ]
  }
}

两个结果对比很明显发现方式二比方式一的分数高出了好多。

2、重构查询结果

重构查询结果在ES新版本中，影响越来越小。一般情况没什么必要的话就别用了。

需求：查询出content中包含java spark solution beginner的document

方式1：

GET /forum/article/_search
{
  "query": {
    "bool": {
      "should": [
        {
         "match": {
           "content": "java"
         } 
        },
        {
          "match": {
            "content": "spark"
          }
        },
        {
          "match": {
            "content": "solution"
          }
        },
        {
          "match": {
            "content": "beginner"
          }
        }
      ]
    }
  }
}

结果：

{
  "took": 3,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 2,
    "max_score": 1.113083,
    "hits": [
      {
        "_index": "forum",
        "_type": "article",
        "_id": "4",
        "_score": 1.113083,
        "_source": {
          "articleID": "QQPX-R-3956-#aD8",
          "userID": 2,
          "hidden": true,
          "postDate": "2017-01-02",
          "tag": [
            "java",
            "elasticsearch"
          ],
          "tag_cnt": 2,
          "view_cnt": 80,
          "title": "this is java, elasticsearch, hadoop blog",
          "content": "elasticsearch and hadoop are all very good solution, i am a beginner",
          "sub_title": "both of them are good",
          "author_first_name": "Robbin",
          "author_last_name": "Li",
          "new_author_last_name": "Li",
          "new_author_first_name": "Robbin"
        }
      },
      {
        "_index": "forum",
        "_type": "article",
        "_id": "5",
        "_score": 0.970927,
        "_source": {
          "articleID": "DHJK-B-1395-#Ky5",
          "userID": 3,
          "hidden": false,
          "postDate": "2017-03-01",
          "tag": [
            "elasticsearch"
          ],
          "tag_cnt": 1,
          "view_cnt": 10,
          "title": "this is spark blog",
          "content": "spark is best big data solution based on scala ,an programming language similar to java spark",
          "sub_title": "haha, hello world",
          "author_first_name": "Tonny",
          "author_last_name": "Peter Smith",
          "new_author_last_name": "Peter Smith",
          "new_author_first_name": "Tonny"
        }
      }
    ]
  }
}

方式2：

GET /forum/article/_search
{
  "query": {
    "bool": {
      "should": [
        {
         "match": {
           "content": "java"
         } 
        },
        {
          "match": {
            "content": "spark"
          }
        },
        {
          "bool": {
            "should": [
              {
                "match": {
                  "content": "solution"
                }
              },
              {
                "match": {
                  "content": "beginner"
                }
              }
            ]
          }
        }
      ]
    }
  }
}

结果：

{
  "took": 3,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 2,
    "max_score": 1.113083,
    "hits": [
      {
        "_index": "forum",
        "_type": "article",
        "_id": "4",
        "_score": 1.113083,
        "_source": {
          "articleID": "QQPX-R-3956-#aD8",
          "userID": 2,
          "hidden": true,
          "postDate": "2017-01-02",
          "tag": [
            "java",
            "elasticsearch"
          ],
          "tag_cnt": 2,
          "view_cnt": 80,
          "title": "this is java, elasticsearch, hadoop blog",
          "content": "elasticsearch and hadoop are all very good solution, i am a beginner",
          "sub_title": "both of them are good",
          "author_first_name": "Robbin",
          "author_last_name": "Li",
          "new_author_last_name": "Li",
          "new_author_first_name": "Robbin"
        }
      },
      {
        "_index": "forum",
        "_type": "article",
        "_id": "5",
        "_score": 0.970927,
        "_source": {
          "articleID": "DHJK-B-1395-#Ky5",
          "userID": 3,
          "hidden": false,
          "postDate": "2017-03-01",
          "tag": [
            "elasticsearch"
          ],
          "tag_cnt": 1,
          "view_cnt": 10,
          "title": "this is spark blog",
          "content": "spark is best big data solution based on scala ,an programming language similar to java spark",
          "sub_title": "haha, hello world",
          "author_first_name": "Tonny",
          "author_last_name": "Peter Smith",
          "new_author_last_name": "Peter Smith",
          "new_author_first_name": "Tonny"
        }
      }
    ]
  }
}

对比方式1和方式2的结果发现，相关度分数一模一样，几乎无差别。

3、negative boost

需求：搜索包含java，不包含spark的doc，但是这样很死板

GET /forum/article/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "content": "java"
          }
        }
      ],
      "must_not": [
        {
          "match": {
            "content": "spark"
          }
        }
      ]
    }
  }
}

结果

{
  "took": 58,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 1,
    "max_score": 0.68640786,
    "hits": [
      {
        "_index": "forum",
        "_type": "article",
        "_id": "2",
        "_score": 0.68640786,
        "_source": {
          "articleID": "KDKE-B-9947-#kL5",
          "userID": 1,
          "hidden": false,
          "postDate": "2017-01-02",
          "tag": [
            "java"
          ],
          "tag_cnt": 1,
          "view_cnt": 50,
          "title": "this is java blog",
          "content": "i think java is the best programming language",
          "sub_title": "learned a lot of course",
          "author_first_name": "Smith",
          "author_last_name": "Williams",
          "new_author_last_name": "Williams",
          "new_author_first_name": "Smith"
        }
      }
    ]
  }
}

只包含了java并且不包含spark的返回了。

需求：搜索包含java，尽量不包含spark的doc，如果包含了spark，不会说排除掉这个doc，而是说将这个doc的分数降低。
包含了nagative term的doc，分数乘以negative boost分数降低。

GET /forum/article/_search
{
  "query": {
    "boosting": {
      "positive": {
        "match": {
          "content": "java"
        }
      },
      "negative": {
        "match": {
          "content": "spark"
        }
      },
      "negative_boost": 0.2
    }
  }
}

结果

{
  "took": 10,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 2,
    "max_score": 0.68640786,
    "hits": [
      {
        "_index": "forum",
        "_type": "article",
        "_id": "2",
        "_score": 0.68640786,
        "_source": {
          "articleID": "KDKE-B-9947-#kL5",
          "userID": 1,
          "hidden": false,
          "postDate": "2017-01-02",
          "tag": [
            "java"
          ],
          "tag_cnt": 1,
          "view_cnt": 50,
          "title": "this is java blog",
          "content": "i think java is the best programming language",
          "sub_title": "learned a lot of course",
          "author_first_name": "Smith",
          "author_last_name": "Williams",
          "new_author_last_name": "Williams",
          "new_author_first_name": "Smith"
        }
      },
      {
        "_index": "forum",
        "_type": "article",
        "_id": "5",
        "_score": 0.05753642,
        "_source": {
          "articleID": "DHJK-B-1395-#Ky5",
          "userID": 3,
          "hidden": false,
          "postDate": "2017-03-01",
          "tag": [
            "elasticsearch"
          ],
          "tag_cnt": 1,
          "view_cnt": 10,
          "title": "this is spark blog",
          "content": "spark is best big data solution based on scala ,an programming language similar to java spark",
          "sub_title": "haha, hello world",
          "author_first_name": "Tonny",
          "author_last_name": "Peter Smith",
          "new_author_last_name": "Peter Smith",
          "new_author_first_name": "Tonny"
        }
      }
    ]
  }
}

返回了两条，并且包含spark的那条数据score是0.0X，是因为会将得出的结果乘以0.2，降低了他的相关度分数，但是也会被检索出来

4、constant_score
如果你压根儿不需要相关度评分，直接走constant_score，所有doc分数都是1，没有评分的概念。

GET /forum/article/_search
{
  "query": {
    "bool": {
      "should": [
        {
          "constant_score": {
            "query": {
              "match": {
                "title": "java"
              }
            }
          }
        },
        {
          "constant_score": {
            "query": {
              "match": {
                "title": "spark"
              }
            }
          }
        }
      ]
    }
  }
}

转载于:https://www.cnblogs.com/jpfss/p/10794428.html

WGH100817
关注
【Elasticsearch】Elasticsearch的IndexSorting:一种查询性能优化利器
九师兄
05-25 603
前两周写过一篇《基于Lucene查询原理分析Elasticsearch的性能》，在最后留了一个彩蛋，说下一篇会介绍一种可以极大的优化查询性能的技术。本文就来介绍这种技术——IndexSorting。因为IndexSorting是在ES6.0之后才作为实验性的功能加入，相关的介绍资料还比较少，所以大部分人对它不够了解。另一方面是，想要理解它为什么能够优化性能、适合哪些场景、内部如何实现、有何副作用等，也需要花一翻功夫。所以本文专门对IndexSorting进行一个介绍，并分析它的作用、实现、适用场景等。
Elasticsearch中ElasticsearchRepository的searchSimilar使用的坑
大尾猴的博客
09-17 5531
Elasticsearch中ElasticsearchRepository的searchSimilar使用的坑
SpringBoot集成日志搜索引擎Elasticsearch
nimazhao的博客
09-12 4693
一.ES简介 elasticsearch是一个高度可扩展的开源全文搜索和分析引擎，可以快速的、近实时地对大数据进行存储、搜索和分析，用来支撑复杂的数据搜索需求和企业级应用，主要用于海量系统日志的数据查询与分析。 二.ES安装 下载地址：https://www.elastic.co/downloads/elasticsearch。 下载ES压缩包解压后，进入bin目录，双击elastics...
白话Elasticsearch25-深度探秘搜索技术之四种常见的相关度分数优化方法
小工匠
08-06 1万+
文章目录概述query-time boostnegative boostconstant_score重构查询结构 概述 继续跟中华石杉老师学习ES，第25篇 课程地址： https://www.roncoo.com/view/55 query-time boost query-time boost 不多说了 权重 ，直接上例子吧 GET /forum/article/_search { ...
es Score Query优化查询
赵英超的博客
10-08 5213
  通过Function Score Query   function_score查询是处理分值计算过程的终极工具。它让你能够对所有匹配了主查询的每份文档调用一个函数来调整甚至是完全替换原来的_score。 实际上，你可以通过设置过滤器来将查询得到的结果分成若干个子集，然后对每个子集使用不同的函数。这样你就能够同时得益于：高效的分值计算以及可缓存的过滤器。 它拥有几种预先定义好了的函数：...
ES系列之相似度模型
最新发布
lonelymanontheway的博客
04-15 1881
ES相似度模型/模块；布尔模型、TF-IDF、向量空间模型、constant_score查询、BM25；实战：配置、more_like_this；进阶：explain、分片；
elasticsearch：搜索常见相关度分数优化方法——笔记
高精尖发展
03-13 2256
一、提权，又见boostGET /forum/article/_search { "query": { "bool": { "should": [ { "match": { "title": { "query": "java spark", "boost": 2
Elasticsearch 之（22） 自定义相关度分数算法 和 常见的相关度分数优化方法
vincent
05-24 6773
前言之前《lucene的相关度评分TF&IDF算法以及向量空间模型算法》，已经很了解整个es的相关度评分的算法了，算法思想，TF/IDF，vector model，boolean model; 实际的公式，query norm，query coordination，boost。自定义相关度分数算法我们可以做到自定义一个function_score函数，自己将某个field的值，跟es内置算...
Elasticsearch 相关度评分算法
爱喝咖啡的程序员的博客
04-13 4342
Elasticsearch 相关度评分算法一. 概念 一. 概念 relevance score算法用于计算document与搜索条件的相关匹配度。 ES使用了term frequency / inverse document frequency 算法，简称TF/IDF算法，它是ES相关度评分算法的一部分，也是 最重要的一部分。 TF 对搜索条件进行分词后，各词条在document中指定的...
基于Elasticsearch的企业信息查询优化实践
一个不靠谱的程序员
12-10 890
需求 基于elasticsearch基础的相关度查询，返回的结果往往不是我们想要的结果。精确率达不到要求。如何能做到让搜索引擎返回的结果就是我想要搜的，这是一个伪命题。elasticsearch官方说明： 通常，经过对策略字段应用权重提升，或通过对查询语句结构的调整来强调某个句子的重要性这些方法，就足以获得良好的结果。有时，如果 Lucene 基于词的 TF/IDF 模型不再满足评分需求（例如希望...
Elasticsearch实战（二十一）---ES相关度分数评分优化及FunctionScore 自定义相关度分数算法
流浪的喵的博客
08-13 2474
ES Function score 自定义相关度分数算法的 实现逻辑根据自己的业务场景去定制自定义相关度分数算法
es中相关性和相关性算分（explain，boosting）
IT之一小佬的博客
11-01 1642
es中相关性和相关性算分（explain，boosting）
ES查询优化
qq_38701718的博客
04-21 744
1、索引采用ik_max_word最大化分词，搜索采用ik_smart智能语义分词，提高搜索词命中率 2、自定义索引字段权重，对比较重要的字段增加权重，提高索引分数 3、设置最低索引分数，过滤掉不太符合关键词的索引。（可根据关键词命中的索引数量来设置最低分数） 4、扩展词库 优化分词器 提高命中率 5、扩展同义词 优化分词器 提高命中率 6、关键词相关性重塑 ...
es查询的时候控制相似度
www.hohode.com
04-29 1万+
详细内容https://www.elastic.co/guide/en/elasticsearch/guide/current/match-multi-word.html#match-precisionGET /nm*/_search { "query": { "match": { "title": { "query" : "李小冉晒麻雀海报：国家利益高于一
【Elasticsearch】如何在Elasticsearch中查找相似的术语
九师兄
05-20 481
1.概述 翻译：https://qbox.io/blog/how-to-find-similar-terms-in-elasticsearch-suggest 本文有相似的文章：【Elasticsearch】 Elasticsearch Suggester 自动纠错 详解 拼写检查的期限建议 用户经常在搜索查询中犯拼写错误。即使查询中存在拼写错误，可行的搜索解决方案也必须能够提供建议。该Suggest API提供了两个这样的拼写检查API，即术语建议和短语建议。术语“建议API”旨在纠正错误键入的单词的拼写
[Elasticsearch] 控制相关度 (一) - 相关度分值计算背后的理论
热门推荐
不忘初心，好好沉淀
12-23 2万+
本章翻译自Elasticsearch官方指南的Controlling Relevance一章。 控制相关度(Controlling Relevance) 对于仅处理结构化数据(比如日期，数值和字符枚举值)的数据库，它们只需要检查一份文档(在关系数据库中是一行)是否匹配查询即可。 尽管布尔类型的YES|NO匹配也是全文搜索的一个必要组成，它们本身是不够的。我们还需要
ES搜索优化
I want to know a little more.
06-08 1215
今天来了解下 Elasticsearch（以下简称 ES） 中的 Query 和 Filter。 在 ES 中，提供了 Query 和 Filter 两种搜索： Query Context：会对搜索进行相关性算分 Filter Context：不需要相关性算分，能够利用缓存来获得更好的性能 举一个栗子，比如需要搜索一场电影，包含以下信息： 评论中包含了烧脑，评分高于 8 分，同时上映时间在 2010 到 2020 之间。 所以这个搜索包括了三个判断逻辑，针对三个不同的字段进行查询，如果需要满足这样
elasticsearch 深入 —— 相关度控制
gmHappy
09-13 2987
控制相关度 处理结构化数据（比如：时间、数字、字符串、枚举）的数据库， 只需检查文档（或关系数据库里的行）是否与查询匹配。 布尔的是/非匹配是全文搜索的基础，但不止如此，我们还要知道每个文档与查询的相关度，在全文搜索引擎中不仅需要找到匹配的文档，还需根据它们相关度的高低进行排序。 全文相关的公式或 相似算法（similarity algorithms） 会将多个因素合并起来，为每个文档生成一...
Elasticsearch亿级数据检索性能优化实践
Elasticsearch亿级数据检索性能优化案例实战！ 本篇文章主要讲述了Elasticsearch亿级数据检索性能优化的实战经验，涵盖了ES的基础结构、Lucene索引实现、优化策略等方面的知识点。 一、ES基础结构 ES的基础结构...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值