elasticsearch
elasticsearch底层是基于lucene来实现的。Lucene是一个Java语言的搜索引擎类库,是Apache公司的顶级项目,由DougCutting于1999年研发。官网地址:https://lucene.apache.org/ 。
我们统一的把mysql与elasticsearch的概念做一下对比:
MySQL | Elasticsearch | 说明 |
---|---|---|
Table | Index | 索引(index),就是文档的集合,类似数据库的表(table) |
Row | Document | 文档(Document),就是一条条的数据,类似数据库中的行(Row),文档都是JSON格式 |
Column | Field | 字段(Field),就是JSON文档中的字段,类似数据库中的列(Column) |
Schema | Mapping | Mapping(映射)是索引中文档的约束,例如字段类型约束。类似数据库的表结构(Schema) |
SQL | DSL | DSL是elasticsearch提供的JSON风格的请求语句,用来操作elasticsearch,实现CRUD增查改删 |
-
Mysql:
-
Elasticsearch:
因此在企业中,往往是两者结合使用: -
对安全性要求较高的写操作,使用mysql实现,擅长事务类型操作,可以确保数据的安全和一致性
-
对查询性能要求较高的搜索需求,使用elasticsearch实现,擅长海量数据的搜索、分析、计算
-
两者再基于某种方式,实现数据的同步,保证一致性
部署单节点elasticsearch
[root@es ~]# curl -o /etc/yum.repos.d/docker.repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
[root@es ~]# yum install -y docker-ce
[root@es ~]# docker network create es-net
//需要让es和kibana容器互联,这里先创建一个网络
[root@es ~]# docker network ls
NETWORK ID NAME DRIVER SCOPE
17e06b6ddcc9 es-net bridge local
[root@es ~]# docker load -i es.tar
[root@es ~]# docker run -d --name es -e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \
-e "discovery.type=single-node" -v es-data:/usr/share/elasticsearch/data \
-v es-plugins:/usr/share/elasticsearch/plugins --privileged --network es-net -p 9200:9200 -p 9300:9300 elasticsearch:7.12.1
命令解释:
-e "ES_JAVA_OPTS=-Xms512m -Xmx512m":内存大小
-e "discovery.type=single-node":非集群模式
-v es-data:/usr/share/elasticsearch/data:挂载逻辑卷,绑定es的数据目录
-v es-plugins:/usr/share/elasticsearch/plugins:挂载逻辑卷,绑定es的插件目录
--privileged:授予逻辑卷访问权
--network es-net :加入一个名为es-net的网络中
-p 9200:9200:端口映射配置
-e "cluster.name=es-docker-cluster":设置集群名称
-e "http.host=0.0.0.0":监听的地址,可以外网访问
-v es-logs:/usr/share/elasticsearch/logs:挂载逻辑卷,绑定es的日志目录
在浏览器中输入:192…168.1.11:9200访问
{
"name" : "82dfbf85ec6e",
"cluster_name" : "docker-cluster",
"cluster_uuid" : "_ZS41HYmSHWSb97yq8gBxA",
"version" : {
"number" : "7.12.1",
"build_flavor" : "default",
"build_type" : "docker",
"build_hash" : "3186837139b9c6b6d23c3200870651f10d3343b7",
"build_date" : "2021-04-20T20:56:39.040728659Z",
"build_snapshot" : false,
"lucene_version" : "8.8.0",
"minimum_wire_compatibility_version" : "6.8.0",
"minimum_index_compatibility_version" : "6.0.0-beta1"
},
"tagline" : "You Know, for Search"
}
部署kibana
运行docker命令,部署kibana
[root@es ~]# docker run -d --name kibana -e ELASTICSEARCH_HOSTS=http://es:9200 \
--network=es-net -p 5601:5601 kibana:7.12.1
-e ELASTICSEARCH_HOSTS=http://es:9200:设置elasticsearch的地址,因为kibana已经与elasticsearch在一个网络,因此可以用容器名直接访问elasticsearch
kibana启动一般比较慢,需要多等待一会,可以通过命令:
[root@es ~]# docker logs -f kibana
查看运行日志,当查看到下面的日志,说明成功:
浏览器输入地址访问192.168.1.11:5601
DevTools
kibana中提供了一个DevTools界面:这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。
部署IK分词器
分词器测试
POST /_analyze
//POST 请求方式
// _analyze:请求路径,这里省略了http://192.168.1.11:9200,有kibana帮我们补充
{
"analyzer": "standard", //analyzer分词器类型,这里是默认的standard分词器,不支持中文
"text": "你好world!" //text:要分词的内容
}
安装IK分词器
[root@es ~]# docker exec -it elasticsearch /bin/bash
# 在线下载并安装,较慢。可以先下好在安装
# ./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip
[root@es ~]# docker restart elasticsearch
3.2.离线安装ik插件(推荐)
[root@es ~]# docker volume ls
DRIVER VOLUME NAME
local es-data
local es-plugins
[root@es ~]# docker volume inspect es-plugins
[
{
"CreatedAt": "2022-04-03T09:36:08+08:00",
"Driver": "local",
"Labels": null,
"Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
//es-plugins目录被挂载的地方
"Name": "es-plugins",
"Options": null,
"Scope": "local"
}
]
[root@es ~]# mv ik /var/lib/docker/volumes/es-plugins/_data/
[root@es ~]# docker restart es
[root@es ~]# docker logs -f es
测试:
IK分词器包含两种模式:ik_smart:最少切分,ik_max_word:最细切分。
执行后结果就跟之前默认的standard分词器有些区别了
扩展词词典
随着互联网的发展,出现了很多新的词语,在原有的词汇列表中并不存在。比如:“奥力给” 。很多语言是不允许在网络上传递的,比如敏感词。创建启用词词典my_first.dic,停用词词典stopword.dic
IK分词器提供了扩展词汇、停用词汇的功能。启用词词典、停用词词典。
1)打开IK分词器config目录:
[root@es ~]# ls /var/lib/docker/volumes/es-plugins/_data/ik/config/
extra_main.dic extra_single_word_low_freq.dic main.dic stopword.dic
extra_single_word.dic extra_stopword.dic preposition.dic suffix.dic
extra_single_word_full.dic IKAnalyzer.cfg.xml quantifier.dic surname.dic
//定义的字典放到IKAnalyzer.cfg.xml所在的目录下
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 -->
<entry key="ext_dict"></entry>
<!--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords"></entry>
<!--用户可以在这里配置远程扩展字典 -->
<!-- <entry key="remote_ext_dict">words_location</entry> -->
<!--用户可以在这里配置远程扩展停止词字典-->
<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
词典创建
创建启用词词典my_first.dic,停用词词典stopword.dic
注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/my_first.dic
奥利
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/stopword.dic
给
启用词典 my_first.dic stopword.dic
[root@es ~]# vim /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 *** 添加扩展词典-->
<entry key="ext_dict">my_first.dic</entry>
<entry key="ext_stopwords">stopword.dic</entry>
</properties>
[root@es ~]# docker restart es
重启es测试
4.部署es集群
部署es集群可以直接使用docker-compose来完成,不过要求你的Linux虚拟机至少有4G的内存空间
首先编写一个docker-compose文件,内容如下:
cat docker-compose.yml
version: '2.2'
services:
es01:
image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
container_name: es01
environment:
- node.name=es01
- cluster.name=es-docker-cluster
- discovery.seed_hosts=es02,es03
- cluster.initial_master_nodes=es01,es02,es03
- bootstrap.memory_lock=true
- "ES_JAVA_OPTS=-Xms512m -Xmx512m"
ulimits:
memlock:
soft: -1
hard: -1
volumes:
- data01:/usr/share/elasticsearch/data
ports:
- 9200:9200
networks:
- elastic
es02:
image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
container_name: es02
environment:
- node.name=es02
- cluster.name=es-docker-cluster
- discovery.seed_hosts=es01,es03
- cluster.initial_master_nodes=es01,es02,es03
- bootstrap.memory_lock=true
- "ES_JAVA_OPTS=-Xms512m -Xmx512m"
ulimits:
memlock:
soft: -1
hard: -1
volumes:
- data02:/usr/share/elasticsearch/data
networks:
- elastic
es03:
image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
container_name: es03
environment:
- node.name=es03
- cluster.name=es-docker-cluster
- discovery.seed_hosts=es01,es02
- cluster.initial_master_nodes=es01,es02,es03
- bootstrap.memory_lock=true
- "ES_JAVA_OPTS=-Xms512m -Xmx512m"
ulimits:
memlock:
soft: -1
hard: -1
volumes:
- data03:/usr/share/elasticsearch/data
networks:
- elastic
volumes:
data01:
driver: local
data02:
driver: local
data03:
driver: local
networks:
elastic:
driver: bridge
es运行需要修改一些linux系统权限,修改/etc/sysctl.conf文件
vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p
通过docker-compose启动集群:
docker-compose up -d
4.2.集群状态监控cerebro
kibana可以监控es集群,不过新版本需要依赖es的x-pack 功能,配置比较复杂。这里推荐使用cerebro来监控es集群状态,
r: local
networks:
elastic:
driver: bridge
es运行需要修改一些linux系统权限,修改/etc/sysctl.conf文件
```sh
vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p
通过docker-compose启动集群:
docker-compose up -d
4.2.集群状态监控cerebro
kibana可以监控es集群,不过新版本需要依赖es的x-pack 功能,配置比较复杂。这里推荐使用cerebro来监控es集群状态,
输入你的elasticsearch的任意节点的地址和端口,点击connect即可: