简介
https://www.elastic.co/cn/what-is/elasticsearch
全文搜索属于最常见的需求，开源的Elasticsearch是目前全文搜索引擎的首选。 它可以快速地储存、搜索和分析海量数据。
维基百科、StackOverflow、Github都采用它。
Elastic的底层是开源库Lucene。但是，你没法直接用Lucene，必须自己写代码去调用它的 接口。Elastic是Lucene的封装，提供了RESTAPI的操作接口，开箱即用。
RESTAPI：天然的跨平台。
- 官方文档：https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html
- 官方中文：https://www.elastic.co/guide/cn/elasticsearch/guide/current/foreword_id.html
- 社区中文：
- https://es.xiaoleilu.com/index.html
- http://doc.codingdict.com/elasticsearch/0/
一、基本概念
1、Index（索引）
动词，相当于MySQL中的insert；
名词，相当于MySQL中的Database
2、Type（类型）
在Index（索引）中，可以定义一个或多个类型。
类似于MySQL中的Table；每一种类型的数据放在一起；
3、Document（文档）
保存在某个索引（Index）下，某种类型（Type）的一个数据（Document），文档是JSON格 式的，Document就像是MySQL中的某个Table里面的内容；
4、倒排索引机制
-- es为什么去掉type：
关系型数据库中两个数据表示是独立的，即使他们里面有相同名称的列也不影响使用，但ES 中不是这样的。elasticsearch是基于Lucene开发的搜索引擎，而ES中不同type下名称相同 的filed最终在Lucene中的处理方式是一样的。
• 两个不同type下的两个user_name，在ES同一个索引下其实被认为是同一个filed，你必 须在两个不同的type中定义相同的filed映射。否则，不同type中的相同字段名称就会在 处理中出现冲突的情况，导致Lucene处理效率下降。
• 去掉type就是为了提高ES处理数据的效率。
----
• Elasticsearch 7.x • URL中的type参数为可选。比如，索引一个文档不再要求提供文档类型。
• Elasticsearch 8.x • 不再支持URL中的type参数。
• 解决：将索引从多类型迁移到单类型，每种类型文档一个独立索引
二、Docker 安装 Es
docker教程：
1、下载镜像文件
docker pull elasticsearch:7.4.2 存储和检索数据
docker pull kibana:7.4.2 可视化检索数据
2、创建实例
2.1、ElasticSearch
mkdir-p /mydata/elasticsearch/config
mkdir-p /mydata/elasticsearch/data
echo "http.host: 0.0.0.0" >> /mydata/elasticsearch/config/elasticsearch.yml
chmod-R 777 /mydata/elasticsearch/ 保证权限
docker run--name elasticsearch-p 9200:9200-p 9300:9300 \
-e "discovery.type=single-node" \
-e ES_JAVA_OPTS="-Xms64m-Xmx512m" \
-v /mydata/elasticsearch/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml \
-v /mydata/elasticsearch/data:/usr/share/elasticsearch/data \
-v /mydata/elasticsearch/plugins:/usr/share/elasticsearch/plugins \
-d elasticsearch:7.4.2
以后再外面装好插件重启即可；
特别注意：-e ES_JAVA_OPTS="-Xms64m-Xmx256m" \ 测试环境下，设置ES 的初始内存和最大内存，否则导 致过大启动不了ES
2.2、Kibana
docker run--name kibana-e ELASTICSEARCH_HOSTS=http://192.168.56.10:9200-p 5601:5601 \-d kibana:7.4.2
http://192.168.56.10:9200 一定改为自己虚拟机的地址
三、初步检索
1、_cat
- GET /_cat/nodes：查看所有节点
- GET /_cat/health：查看 es 健康状况
- GET /_cat/master：查看主节点
- GET /_cat/indices：查看所有索引 showdatabases;
2、索引一个文档（保存）
保存一个数据，保存在哪个索引的哪个类型下，指定用哪个唯一标识
PUT customer/external/1；
在 customer 索引下的 external 类型下保存 1 号数据为
PUT customer/external/1
{
"name": "JohnDoe"
}
PUT和POST都可以，
- POST可以新增可以修改。
- 如果不指定id，会自动生成id，表示新增。
- 如果指定id：id不存在就新增，ID存在就修改，并新增版本号
- PUT可以新增可以修改。
- PUT必须指定id，id不存在就新增，ID存在就修改；
- 由于PUT需要指定id，我们一般都用来做修改 操作，不指定id会报错。
3、查询文档
GET customer/external/1
结果：
{
"_index": "customer", //在哪个索引
"_type": "external", //在哪个类型
"_id": "1", //记录id
"_version": 2, //版本号
"_seq_no": 1, //并发控制字段，每次更新就会+1，用来做乐观锁
"_primary_term": 1, //同上，主分片重新分配，如重启，就会变化
"found": true,
"_source": { //真正的内容
"name": "JohnDoe"
}
}
（乐观锁操作）更新携带
PUT customer/external/1?if_seq_no=1&if_primary_term=1
4、更新文档
POST customer/external/1/_update {
"doc": {
"name": "JohnDoew"
}
}
或者
POST customer/external/1
{
"name": "JohnDoe2"
}
或者
PUT customer/external/1
{
"name": "JohnDoe"
}
不同：
- POST带_update操作会对比源文档数据，如果相同不会有什么操作，文档version不增加。
- POST不带_update操作，总会将数据重新保存并增加version版本；
- PUT操作，总会将数据重新保存并增加version版本；
POST带_update对比元数据如果一样就不进行任何操作。
看场景；
对于大并发更新，不带update；
对于大并发查询偶尔更新，带update；对比更新，重新计算分配规则。
更新同时增加属性
POST customer/external/1/_update
{
"doc": {
"name": "JaneDoe",
"age": 20
}
}
PUT和POST不带_update也可以
5、删除文档&索引
DELETE customer/external/1
DELETE customer
6、bulk批量API
POSTcustomer/external/_bulk
{"index":{"_id":"1"}}
{"name":"JohnDoe"}
{"index":{"_id":"2"}}
{"name":"JaneDoe"}
语法格式：
{action:{metadata}}\n
{requestbody }\n
{action:{metadata}}\n
{requestbody }\n
复杂实例：
POST/_bulk
{"delete":{"_index":"website","_type":"blog","_id":"123"}}
{"create":{"_index":"website","_type":"blog","_id":"123"}}
{"title": "Myfirstblogpost"}
{"index": {"_index":"website","_type":"blog"}}
{"title": "Mysecondblogpost"}
{"update":{"_index":"website","_type":"blog","_id":"123","_retry_on_conflict":3}}
{"doc":{"title":"Myupdatedblogpost"}}
bulkAPI 以此按顺序执行所有的action（动作）。
如果一个单个的动作因任何原因而失败， 它将继续处理它后面剩余的动作。
当bulkAPI返回时，它将提供每个动作的状态（与发送 的顺序相同），所以您可以检查是否一个指定的动作是不是失败了。
7、样本测试数据
我准备了一份顾客银行账户信息的虚构的JSON文档样本。每个文档都有下列的schema （模式）:
{
"account_number": 0,
"balance": 16623,
"firstname": "Bradshaw",
"lastname": "Mckenzie",
"age": 29,
"gender": "F",
"address": "244ColumbusPlace",
"employer": "Euron",
"email": "bradshawmckenzie@euron.com",
"city": "Hobucken",
"state": "CO"
}
https://github.com/elastic/elasticsearch/blob/master/docs/src/test/resources/accounts.json?raw =true导入测试数据
POST bank/account/_bulk 测试数据
四、进阶检索
1、SearchAPI
ES支持两种基本方式检索:
- 一个是通过使用 REST requestURI发送搜索参数（uri+检索参数）
- 另一个是通过使用REST requestbody来发送它们（uri+请求体）
1）、检索信息
一切检索从_search开始
GET bank/_search
检索bank下所有信息，包括type和docs
请求参数方式检索：
GET bank/_search?q=*&sort=account_number:asc
响应结果解释：
took-Elasticsearch执行搜索的时间（毫秒）
time_out-告诉我们搜索是否超时
_shards-告诉我们多少个分片被搜索了，以及统计了成功/失败的搜索分片
hits-搜索结果
hits.total-搜索结果
hits.hits-实际的搜索结果数组（默认为前10的文档）
sort-结果的排序key（键）（没有则按score排序）
score和max_score–相关性得分和最高得分（全文检索用）
uri+请求体进行检索：
GET bank/_search
{
"query": {
"match_all": {}
},
"sort": [
{
"account_number": {
"order": "desc"
}
}
]
}
HTTP客户端工具（POSTMAN），get请求不能携带请求体，我们变为post也是一样的 我们POST一个JSON风格的查询请求体到_searchAPI。
需要了解，一旦搜索的结果被返回，Elasticsearch就完成了这次请求，并且不会维护任何 服务端的资源或者结果的cursor（游标）
2、QueryDSL
1）、基本语法格式
Elasticsearch提供了一个可以执行查询的Json风格的DSL（domain-specificlanguage领域特 定语言）。这个被称为QueryDSL。该查询语言非常全面，并且刚开始的时候感觉有点复杂， 真正学好它的方法是从一些基础的示例开始的。
- 一个查询语句的典型结构
{
QUERY_NAME: {
ARGUMENT:VALUE,
ARGUMENT:VALUE,...
}
}
- 如果是针对某个字段，那么它的结构如下：
{
QUERY_NAME: {
FIELD_NAME: {
ARGUMENT:VALUE,
ARGUMENT:VALUE,...
}
}
}
GET bank/_search
{
"query": {
"match_all": {}
},
"from": 0,
"size": 5,
"sort": [
{
"account_number": {
"order": "desc"
}
}
]
}
- query定义如何查询，
- match_all查询类型【代表查询所有的所有】，es中可以在query中组合非常多的查 询类型完成复杂查询
- 除了query参数之外，我们也可以传递其它的参数以改变查询结果。如sort，size
- from+size限定，完成分页功能
- sort排序，多字段排序，会在前序字段相等时后续字段内部排序，否则以前序为准
2）、返回部分字段
GET bank/_search
{
"query": {
"match_all": {}
},
"from": 0,
"size": 5,
"_source": [
"age",
"balance"
]
}
3）、match【匹配查询】
- 基本类型（非字符串），精确匹配
GET bank/_search
{
"query": {
"match": {
"account_number": "20"
}
}
}
match返回account_number=20的
- 字符串，全文检索
GET bank/_search
{
"query": {
"match": {
"address": "mill"
}
}
}
最终查询出address中包含mill单词的所有记录
match当搜索字符串类型的时候，会进行全文检索，并且每条记录有相关性得分。
- 字符串，多个单词（分词+全文检索）
GET bank/_search
{
"query": {
"match": {
"address": "mill road"
}
}
}
最终查询出address中包含mill或者road或者millroad的所有记录，并给出相关性得分
4）、match_phrase【短语匹配】
将需要匹配的值当成一个整体单词（不分词）进行检索
GET bank/_search
{
"query": {
"match_phrase": {
"address": "mill road"
}
}
}
查出address中包含mill road的所有记录，并给出相关性得分
5）、multi_match【多字段匹配】
GET bank/_search
{
"query": {
"multi_match": {
"query": "mill",
"fields": [
"state", "address"
]
}
}
}
state或者address包含mil
6）、bool【复合查询】
bool用来做复合查询：
复合语句可以合并任何其它查询语句，包括复合语句，了解这一点是很重要的。这就意味 着，复合语句之间可以互相嵌套，可以表达非常复杂的逻辑。
- must：必须达到must列举的所有条件
GET bank/_search
{
"query": {
"bool": {
"must": [
{
"match": {
"address": "mill"
}
},
{
"match": {
"gender": "M"
}
}
]
}
}
}
- should：应该达到should列举的条件，如果达到会增加相关文档的评分，并不会改变 查询的结果。如果query中只有should且只有一种匹配规则，那么should的条件就会 被作为默认匹配条件而去改变查询结果
GET bank/_search
{
"query": {
"bool": {
"must": [
{
"match": {
"address": "mill"
}
},
{
"match": {
"gender": "M"
}
}
],
"should": [
{
"match": {
"address": "lane"
}
}
]
}
}
}
- must_not必须不是指定的情况
GET bank/_search
{
"query": {
"bool": {
"must": [
{
"match": {
"address": "mill"
}
},
{
"match": {
"gender": "M"
}
}
],
"should": [
{
"match": {
"address": "lane"
}
}
],
"must_not": [
{
"match": {
"email": "baluba.com"
}
}
]
}
}
}
address包含mill，并且gender是M，如果address里面有lane最好不过，但是email必
须不包含baluba.com
7）、filter【结果过滤】
并不是所有的查询都需要产生分数，特别是那些仅用于“filtering”（过滤）的文档。为了不计算分数Elasticsearch会自动检查场景并且优化查询的执行。
GET bank/_search
{
"query": {
"bool": {
"must": [
{
"match": {
"address": "mill"
}
}
],
"filter": {
"range": {
"balance": {
"gte": 10000,
"lte": 20000
}
}
}
}
}
}
8）、term
和match一样。匹配某个属性的值。全文检索字段用match，其他非text字段匹配用term。
GET bank/_search
{
"query": {
"bool": {
"must": [
{
"term": {
"age": {
"value": "28"
}
}
},
{
"match": {
"address": "990MillRoad"
}
}
]
}
}
}
9）、aggregations（执行聚合）
聚合提供了从数据中分组和提取数据的能力。
最简单的聚合方法大致等于SQLGROUP BY和SQL聚合函数。在Elasticsearch中，您有执行搜索返回hits（命中结果），并且同时返 回聚合结果，把一个响应中的所有hits（命中结果）分隔开的能力。这是非常强大且有效的， 您可以执行查询和多个聚合，并且在一次使用中得到各自的（任何一个的）返回结果，使用 一次简洁和简化的API来避免网络往返。
- 搜索address中包含mill的所有人的年龄分布以及平均年龄，但不显示这些人的详情。
GET bank/_search
{
"query": {
"match": {
"address": "mill"
}
},
"aggs": {
"group_by_state": {
"terms": {
"field": "age"
}
},
"avg_age": {
"avg": {
"field": "age"
}
}
},
"size": 0
}
——————————
size：0不显示搜索数据
aggs：执行聚合。聚合语法如下
"aggs": {
"aggs_name这次聚合的名字，方便展示在结果集中": {
"AGG_TYPE聚合的类型（avg,term,terms）": {}
}
},
- 按照年龄聚合，并且请求这些年龄段的这些人的平均薪资
GET bank/account/_search
{
"query": {
"match_all": {}
},
"aggs": {
"age_avg": {
"terms": {
"field": "age",
"size": 1000
},
"aggs": {
"banlances_avg": {
"avg": {
"field": "balance"
}
}
}
}
},
"size": 1000
}
- 查出所有年龄分布，并且这些年龄段中M的平均薪资和F的平均薪资以及这个年龄 段的总体平均薪资
GETbank/account/_search
{
"query": {
"match_all": {}
},
"aggs": {
"age_agg": {
"terms": {
"field": "age",
"size": 100
},
"aggs": {
"gender_agg": {
"terms": {
"field": "gender.keyword",
"size": 100
},
"aggs": {
"balance_avg": {
"avg": {
"field": "balance"
}
}
}
},
"balance_avg": {
"avg": {
"field": "balance"
}
}
}
}
},
"size": 1000
}
3、Mapping
1）、字段类型
2）、映射
Mapping（映射）
Mapping是用来定义一个文档（document），以及它所包含的属性（field）是如何存储和 索引的。
比如，使用mapping来定义：
- 哪些字符串属性应该被看做全文本属性（fulltextfields）。
- 哪些属性包含数字，日期或者地理位置。
- 文档中的所有属性是否都能被索引（_all配置）。
- 日期的格式。
- 自定义映射规则来执行动态添加属性。
查看mapping信息： GET bank/_mapping
修改mapping信息：Mapping | Elasticsearch Guide [8.13] | Elastic
3）、新版本改变
-- Es7及以上移除了type的概念：
关系型数据库中两个数据表示是独立的，即使他们里面有相同名称的列也不影响使用，但ES 中不是这样的。elasticsearch是基于Lucene开发的搜索引擎，而ES中不同type下名称相同 的filed最终在Lucene中的处理方式是一样的。
• 两个不同type下的两个user_name，在ES同一个索引下其实被认为是同一个filed，你必 须在两个不同的type中定义相同的filed映射。否则，不同type中的相同字段名称就会在 处理中出现冲突的情况，导致Lucene处理效率下降。
• 去掉type就是为了提高ES处理数据的效率。
----
• Elasticsearch 7.x
• URL中的type参数为可选。比如，索引一个文档不再要求提供文档类型。
• Elasticsearch 8.x
• 不再支持URL中的type参数。
• 解决：
1）、将索引从多类型迁移到单类型，每种类型文档一个独立索引
2）、将已存在的索引下的类型数据，全部迁移到指定位置即可。详见数据迁移
4）、映射操作
- 1、创建映射
1、创建索引并指定映射
PUT /my-index
{
"mappings": {
"properties": {
"age": {
"type": "integer"
},
"email": {
"type": "keyword"
},
"name": {
"type": "text"
}
}
}
}
- 2、添加新的字段映射
PUT /my-index/_mapping
{
"properties": {
"employee-id": {
"type": "keyword",
"index": false
}
}
}
- 3、更新映射
对于已经存在的映射字段，我们不能更新。更新必须创建新的索引进行数据迁移
- 4、数据迁移
先创建出new_twitter的正确映射。然后使用如下方式进行数据迁移
POST_reindex [固定写法]
{
"source": {
"index": "twitter"
},
"dest": {
"index": "new_twitter"
}
}
将旧索引的type下的数据进行迁移
POST_reindex
{
"source": {
"index": "twitter",
"type": "tweet"
},
"dest": {
"index": "tweets"
}
}
4、分词
一个tokenizer（分词器）接收一个字符流，将之分割为独立的tokens（词元，通常是独立 的单词），然后输出tokens流。 例如，whitespacetokenizer遇到空白字符时分割文本。它会将文本"Quickbrownfox!"分割 为[Quick,brown,fox!]。 该tokenizer（分词器）还负责记录各个term（词条）的顺序或position位置（用于phrase短 语和wordproximity词近邻查询），以及term（词条）所代表的原始word（单词）的start （起始）和end（结束）的characteroffsets（字符偏移量）（用于高亮显示搜索的内容）。 Elasticsearch提供了很多内置的分词器，可以用来构建customanalyzers（自定义分词器）。
1）、安装ik分词器
注意：不能用默认elasticsearch-plugininstallxxx.zip进行自动安装 https://github.com/medcl/elasticsearch-analysis-ik/releases?after=v6.4.2对应es版本安装
——————————————————————
进入es容器内部plugins目录
docker exec -it 容器 id /bin/bash
wget
https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.4.2/elasticsearch-anal ysis-ik-7.4.2.zip
unzip下载的文件
rm –rf *.zip
mv elasticsearch /ik
————————
可以确认是否安装好了分词器
cd../bin
elasticsearch plugin list：即可列出系统的分词器
2）、测试分词器
使用默认
POST_analyze {
"text": "我是中国人"
}
请观察结果
——————————
使用分词器
POST_analyze {
"analyzer": "ik_smart",
"text": "我是中国人"
}
请观察结果
——————————————
另外一个分词器 ik_max_word
POST_analyze
{
"analyzer": "ik_max_word",
"text": "我是中国人"
}
请观察结果
————————————
能够看出不同的分词器，分词有明显的区别，所以以后定义一个索引不能再使用默 认的mapping了，要手工建立mapping,因为要选择分词器。
3）、自定义词库
修改/usr/share/elasticsearch/plugins/ik/config/中的IKAnalyzer.cfg.xml /usr/share/elasticsearch/plugins/ik/config
——————————
<?xmlversion="1.0"encoding="UTF-8"?> <!DOCTYPEpropertiesSYSTEM"http://java.sun.com/dtd/properties.dtd"> <properties> <comment>IKAnalyzer扩展配置</comment> <!--用户可以在这里配置自己的扩展字典--> <entrykey="ext_dict"> </entry> <!--用户可以在这里配置自己的扩展停止词字典--> <entrykey="ext_stopwords"></entry> <!--用户可以在这里配置远程扩展字典--> <entrykey="remote_ext_dict">http://192.168.128.130/fenci/myword.txt</entry> <!--用户可以在这里配置远程扩展停止词字典--> <!--<entrykey="remote_ext_stopwords">words_location</entry>--> </properties>————————
原来的xml <?xmlversion="1.0"encoding="UTF-8"?> <!DOCTYPEpropertiesSYSTEM"http://java.sun.com/dtd/properties.dtd"> <properties> <comment>IKAnalyzer扩展配置</comment> <!--用户可以在这里配置自己的扩展字典--> <entrykey="ext_dict"></entry> <!--用户可以在这里配置自己的扩展停止词字典--> <entrykey="ext_stopwords"></entry> <!--用户可以在这里配置远程扩展字典--> <!--<entrykey="remote_ext_dict">words_location</entry>--> <!--用户可以在这里配置远程扩展停止词字典--> <!--<entrykey="remote_ext_stopwords">words_location</entry>--> </properties>
按照标红的路径利用nginx发布静态资源,按照请求路径，创建对应的文件夹以及文件，放在 nginx的html下
然后重启es服务器，重启nginx。
在kibana中测试分词效果
更新完成后，es只会对新增的数据用新词分词。历史数据是不会重新分词的。如果想要历 史数据重新分词。需要执行：
POST my_index/_update_by_query?conflicts=procee
五、Elasticsearch-Rest-Client
1）、9300：TCP
spring-data-elasticsearch:transport-api.jar；
springboot版本不同，transport-api.jar不同，不能适配es版本
7.x已经不建议使用，8以后就要废弃
2）、9200：HTTP
- JestClient：非官方，更新慢
- RestTemplate：模拟发HTTP请求，ES很多操作需要自己封装，麻烦
- HttpClient：同上
- Elasticsearch-Rest-Client：官方RestClient，封装了ES操作，API层次分明，上手简单
最终选择Elasticsearch-Rest-Client（elasticsearch-rest-high-level-client） https://www.elastic.co/guide/en/elasticsearch/client/java-rest/current/java-rest-high.html
1、SpringBoot整合
<dependency>
<groupId>org.elasticsearch.client</groupId>
<artifactId>elasticsearch-rest-high-level-client</artifactId>
<version>7.4.2</version>
</dependency>
2、配置
@Bean
RestHighLevelClientclient(){
RestClientBuilderbuilder=RestClient.builder(newHttpHost("192.168.56.10",
9200,
"http"));
return new RestHighLevelClient(builder);
}
3、使用
@Test
voidtest1()throwsIOException{
Product product=new Product();
product.setSpuName("华为");
product.setId(10L);
IndexRequestrequest=new IndexRequest("product").id("20")
.source("spuName","华为","id",20L);
try{
IndexResponseresponse=client.index(request,RequestOptions.DEFAULT);
System.out.println(request.toString());
IndexResponse response2 = client.index(request, RequestOptions.DEFAULT);
} catch (ElasticsearchException e) {
if (e.status() == RestStatus.CONFLICT) {
}
}
}
六：问题处理：
1.Es-数组的扁平化处
方案：使用nested类型
215
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
