目录
一、初始ES
什么是elasticsearch
elasticsearch是一款非常强大的开源分布式搜索引擎,可以帮助我们从海量数据中快速找到需要的内容。elasticsearch结合kibana、Logstash、Beats,也就是elastic stack(ELK:以elasticsearch为核心的技术栈,包括beats、Logstash、kibana、elasticsearch)。被广泛应用在日志数据分析、实时监控等领域
elasticsearch是elastic stack的核心,负责存储、搜索、分析数据。而elasticsearch底层的实现是Lucene技术(Lucene中核心技术为倒排索引);Lucene是一个Java语言的搜索引擎类库(jar 包),是Apache公司的顶级项目 。elasticsearch则是基于lucene的多次开发,相比与lucene,elasticsearch更具备优势
● 支持分布式,可水平扩展
● 提供Restful接口,可被任何语言调用
官网地址:https://www.elastic.co/cn/
倒排索引
传统数据库(如MySQL)采用正向索引,例如给下表(tb_goods)中的id创建索引:
elasticsearch采用倒排索引:
● 文档(document):每条数据就是一个文档
● 词条(term):文档按照语义分成的词语
什么是文档和词条?
● 每一条数据就是一个文档
● 对文档中的内容分词,得到的词语就是词条
什么是正向索引?
● 基于文档id创建索引。查询词条时必须先找到文档,而后判断是否包含词条
什么是倒排索引?
● 对文档内容分词,对词条创建索引,并记录词条所在文档的信息。查询时先根据词条查询到文
档id,而后获取到文档
elasticsearch是面向文档存储的,可以是数据库中的一条商品数据,一个订单信息。
文档数据会被序列化为json格式后存储在elasticsearch中。
索引(Index):相同类型的文档集合
映射(mapping):索引中文档的字段约束信息,类似表的结构约束
es与mysql的概念对比
MySQL | Elasticsearch | 说明 |
---|---|---|
Table | Index | 索引(index),就是文档的集合,类似数据库的表(table) |
Row | Document | 文档(Document),就是一条条的数据,类似数据库中的行(Row),文档都是JSON格式 |
Colume | Field | 字段(Field),就是JSON文档中的字段,类似数据库中的列(Column) |
Schema | Mapping | Mapping(映射)是索引中文档的约束,例如字段类型约束。类似数据库的表结构(Schema) |
SQL | DSL | DSL是elasticsearch提供的JSON风格的请求语句,用来操作elasticsearch,实现CRUD |
架构
Mysql:擅长事务类型操作,可以确保数据的安全和一致性
Elasticsearch:擅长海量数据的搜索、分析、计算
安装es
部署单点es
资源链接 :
es镜像:链接:https://pan.baidu.com/s/1xGIoyxoolLF8l3W_pp8jLw
提取码:GY66
kibana镜像:https://pan.baidu.com/s/1ADzZHA2V5HhuypBNi2KX9g
提取码:GY66
1、创建网络
因为需要部署kibana容器,因此需要让es和kibana容器互联。这里先创建一个网络:
docker network create es-net
2、加载镜像
这里采用elasticsearch的7.12.1版本的镜像,这个镜像体积非常大,接近1G。镜像的tar包:
将其上传到虚拟机中,然后运行命令加载即可:
# 导入数据
docker load -i es.tar
同理还有kibana
的tar包也需要这样做。
3、运行
运行docker命令,部署单点es(es底层是基于Java实现的):
docker run -d \
--name es \
-e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \ #配置JVM的堆内存大小
-e "discovery.type=single-node" \
-v es-data:/usr/share/elasticsearch/data \
-v es-plugins:/usr/share/elasticsearch/plugins \
--privileged \
--network es-net \
-p 9200:9200 \ # http协议端口,供用户访问
-p 9300:9300 \ # es容器各个节点互连的端口
elasticsearch:7.12.1 # 镜像名称
命令解释:
-e "cluster.name=es-docker-cluster"
: 设置集群名称 【-e:设置环境变量】-e "http.host=0.0.0.0"
: 监听的地址,可以外网访问-e "ES_JAVA_OPTS=-Xms512m -Xmx512m"
: 内存大小(es运行时的堆内存大小,默认1G)-e "discovery.type=single-node"
: 非集群模式(单点运行)-v es-data:/usr/share/elasticsearch/data
: 挂载逻辑卷,绑定es的数据目录-v es-logs:/usr/share/elasticsearch/logs
: 挂载逻辑卷,绑定es的日志目录-v es-plugins:/usr/share/elasticsearch/plugins
: 挂载逻辑卷,绑定es的插件目录--privileged
: 授予逻辑卷访问权--network es-net
: 加入一个名为es-net的网络中-p 9200:9200
: 端口映射配置
在浏览器中输入:http://192.168.197.140:9200 即可看到elasticsearch的响应结果:
es启动成功!!!
安装kibana
部署kibana
kibana可以给我们提供一个elasticsearch的可视化界面,便于我们学习。
1.部署
运行docker命令,部署kibana
docker run -d \
--name kibana \
-e ELASTICSEARCH_HOSTS=http://es:9200 \
--network=es-net \
-p 5601:5601 \
kibana:7.12.1 # 版本必须与es的版本保持一致
命令解释:
--network es-net
: 加入一个名为es-net的网络中,与elasticsearch在同一个网络中-e ELASTICSEARCH_HOSTS=http://es:9200"
: 设置elasticsearch的地址,因为kibana已经与elasticsearch在一个网络,因此可以用容器名直接访问elasticsearch-p 5601:5601
: 端口映射配置
kibana启动一般比较慢,需要多等待一会,可以通过命令:
docker logs -f kibana
查看运行日志,当查看到下面的日志,说明成功:
此时,在浏览器输入地址访问:http://192.168.150.101:5601,即可看到结果
kibana中提供了一个DevTools界面:这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。
分词器
es在创建倒排索引时需要对文档分词;在搜索时,需要对用户输入内容分词(分词器的作用)。但默认的分词规则对中文处理并不友好。
我们在kibana的DevTools中测试:
# 测试分词器 (/_analyze:做分词分析; analyzer:分词器,此处按英文进行分词
#"analyzer": "standard"——————>默认的标准分词器 )
POST /_analyze
{
"analyzer": "english",
"text": "错过了落日afterglow,还可以期待漫天繁星!"
}
IK分词器
处理中文分词,一般会使用IK分词器。官方网站:https://github.com/medcl/elasticsearch-analysis-ik
ik分词器包含两种模式:
● ik_smart:最少切分,粗粒度
● ik_max_word:最细切分,细粒度
资源链接
IK分词器:https://pan.baidu.com/s/1H4ww8mKeYTKiz4knsGJcpw
提取码:GY66
安装IK分词器
一、在线安装ik插件(较慢)
# 进入容器内部
docker exec -it elasticsearch /bin/bash
# 在线下载并安装
./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip
#退出
exit
#重启容器
docker restart elasticsearch
二、离线安装ik插件(推荐)
1、查看数据卷目录
安装插件需要知道elasticsearch的plugins目录位置,而我们用了数据卷挂载,因此需要查看elasticsearch的数据卷目录,通过下面命令查看:
docker volume inspect es-plugins
显示结果:
[
{
"CreatedAt": "2022-05-06T10:06:34+08:00",
"Driver": "local",
"Labels": null,
"Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
"Name": "es-plugins",
"Options": null,
"Scope": "local"
}
]
说明plugins目录被挂载到了:/var/lib/docker/volumes/es-plugins/_data
这个目录中。
2、解压缩分词器安装包
将提供的ik分词器解压缩,命名为ik
3、上传到es容器的插件数据卷中
也就是/var/lib/docker/volumes/es-plugins/_data
:
4、重启容器
# 4、重启容器
docker restart es
# 查看es日志
docker logs -f es
中文分词成功!!!
ik_smart——【最少切分,粗粒度】
{
"tokens" : [
{
"token" : "错",
"start_offset" : 0,
"end_offset" : 1,
"type" : "CN_CHAR",
"position" : 0
},
{
"token" : "过了",
"start_offset" : 1,
"end_offset" : 3,
"type" : "CN_WORD",
"position" : 1
},
{
"token" : "落日",
"start_offset" : 3,
"end_offset" : 5,
"type" : "CN_WORD",
"position" : 2
},
{
"token" : "afterglow",
"start_offset" : 5,
"end_offset" : 14,
"type" : "ENGLISH",
"position" : 3
},
{
"token" : "还可",
"start_offset" : 15,
"end_offset" : 17,
"type" : "CN_WORD",
"position" : 4
},
{
"token" : "以",
"start_offset" : 17,
"end_offset" : 18,
"type" : "CN_CHAR",
"position" : 5
},
{
"token" : "期待",
"start_offset" : 18,
"end_offset" : 20,
"type" : "CN_WORD",
"position" : 6
},
{
"token" : "满天",
"start_offset" : 20,
"end_offset" : 22,
"type" : "CN_WORD",
"position" : 7
},
{
"token" : "繁星",
"start_offset" : 22,
"end_offset" : 24,
"type" : "CN_WORD",
"position" : 8
}
]
}
ik_max_word——【最细切分,细粒度】
{
"tokens" : [
{
"token" : "错过",
"start_offset" : 0,
"end_offset" : 2,
"type" : "CN_WORD",
"position" : 0
},
{
"token" : "过了",
"start_offset" : 1,
"end_offset" : 3,
"type" : "CN_WORD",
"position" : 1
},
{
"token" : "落日",
"start_offset" : 3,
"end_offset" : 5,
"type" : "CN_WORD",
"position" : 2
},
{
"token" : "afterglow",
"start_offset" : 5,
"end_offset" : 14,
"type" : "ENGLISH",
"position" : 3
},
{
"token" : "还可",
"start_offset" : 15,
"end_offset" : 17,
"type" : "CN_WORD",
"position" : 4
},
{
"token" : "可以",
"start_offset" : 16,
"end_offset" : 18,
"type" : "CN_WORD",
"position" : 5
},
{
"token" : "以期",
"start_offset" : 17,
"end_offset" : 19,
"type" : "CN_WORD",
"position" : 6
},
{
"token" : "期待",
"start_offset" : 18,
"end_offset" : 20,
"type" : "CN_WORD",
"position" : 7
},
{
"token" : "满天",
"start_offset" : 20,
"end_offset" : 22,
"type" : "CN_WORD",
"position" : 8
},
{
"token" : "繁星",
"start_offset" : 22,
"end_offset" : 24,
"type" : "CN_WORD",
"position" : 9
}
]
}
IK分词器的扩展和停用字典
ik分词器-拓展词库(个性化设置)
要拓展ik分词器的词库,只需要修改一个ik分词器目录中的config目录中的IkAnalyzer.cfg.xml文件:
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 *** 添加扩展词典-->
<entry key="ext_dict">ext.dic</entry>
</properties>
然后在名为ext.dic的文件中,添加想要拓展的词语即可,例如:
白嫖
奥力给
ik分词器-停用词库
要禁用某些敏感词条,只需要修改一个ik分词器目录中的config目录中的IkAnalyzer.cfg.xml文件:
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典-->
<entry key="ext_dict">ext.dic</entry>
<!--用户可以在这里配置自己的扩展停止词字典 *** 添加停用词词典-->
<entry key="ext_stopwords">stopword.dic</entry>
</properties>
然后在名为stopword.dic的文件中,添加想要停用的词语即可,例如:
国际
拓展词库、停用词库为独立的文件,文件在当前配置文件所在目录。stopword.dic存在,可以直接添加;而ext.dic可以手动创建!
stopword.dic中默认已经添加了很多停止词(如英文中的冠词、介词等无意义的词…)
二、操作索引库
索引库操作:
创建索引库:PUT /索引库名
查询索引库:GET /索引库名
删除索引库:DELETE /索引库名
添加字段:PUT /索引库名/_mapping
mapping属性
mapping是对索引库中文档的约束,常见的mapping属性包括:
type:字段数据类型,常见的简单类型有:
● 字符串:text(可分词的文本)、keyword(精确值,例如:品牌、国家、ip地址)
● 数值:long、integer、short、byte、double、float、
● 布尔:boolean
● 日期:date
● 对象:object
index:是否创建索引 # 倒排索引————>可以被搜索),默认为true
analyzer:使用哪种分词器 # 结合text类型使用,其他所有类型都无需分词
properties:该字段的子字段
创建索引库
ES中通过Restful请求操作索引库、文档。请求内容用DSL语句来表示。创建索引库和mapping的DSL语法如下:
成功创建索引库
查看、删除、修改索引库
查看索引库语法
GET /索引库名
示例:
GET /xx
删除索引库的语法
DELETE /索引库名
示例:
DELETE /xx
修改索引库
索引库和mapping一旦创建无法修改,但是可以添加新的字段,语法如下:
索引库创建完后,数据结构(mapping映射)已定义好,es会基于mapping创建倒排索引,若要修改某个字段就会导致原有的整个倒排索引彻底失效,带来的影响较大,因此es禁止修改索引库
PUT /索引库名/_mapping
{
"properties": {
"新字段名":{
"type": "integer"
}
}
}
示例:(给xx索引库添加age的属性)
PUT /xx/_mapping
{
"properties": {
"age":{
"type": "integer"
}
}
}
三、文档操作
新增文档
新增文档的DSL语法如下:
查询文档
查看文档语法:
GET /索引库名/_doc/文档id
示例:
GET /GY/_doc/1
删除文档
删除索引库的语法:
DELETE /索引库名/_doc/文档id
示例:
DELETE /GY/_doc/1
修改文档
方式一:全量修改,会删除旧文档,添加新文档
方式二:增量修改,修改指定字段值