目录
1.部署单点es
1.1 常见网络
因为我们还需要部署kibana容器,因此需要让es和kibana容器互联。这里先创建一个网络:
docker network ps
学过docker的小伙伴们,都知道用docker-compose也可以将es和kinbana容器互联,这里不用是因为,可能后续小伙伴们只需要用到es不需要kibana,所以这样便于改造。
创建之后,可以查看一下,是否创建成功:
1.2 加载镜像
这里我们采用elasticsearch的7.12.1版本的镜像,这个镜像体积非常大,接近1G.不建议大家自己pull。我这里提供了需要安装的es,文末会分享连接。
大家将其上传到虚拟机中任意位置,然后进入放压缩包的目录下,运行命令加载即可:
docker load -i es.tar
同理还有kibana的tar包也需要这样做。
注意:如果你是自己pull的,es和kibana的版本一定要一样,不然后续会出现版本冲突的问题。
1.3 运行
运行docker命令,部署单点es:
docker run -d \
--name es \
-e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \
-e "discovery.type=single-node" \
-v es-data:/usr/share/elasticsearch/data \
-v es-plugins:/usr/share/elasticsearch/plugins \
--privileged \
--network es-net \
-p 9200:9200 \
-p 9300:9300 \
elasticsearch:7.12.1
命令解释:
- docker run -d:设置容器后台运行
- --name es:给es容器取的名字
- -e "ES_JAVA_OPTS=-Xms512m -Xmx512m":设置堆内存大小,这里是因为我的虚拟机内存总共只有2G,所以设置的比较小,你自己设置不要低于这个内存大小,否则会出现内存溢出的报错
- -e "discovery.type=single-node":设置的启动模式为非集群模式
- -v es-data:/usr/share/elasticsearch/data:挂载数据卷,绑定es的数据目录
- -v es-plugins:/usr/share/elasticsearch/plugins:挂载数据卷,绑定es的插件目录
- --privileged:授予数据卷访问权
- --network es-net:加入一个名为es-net的网络中,就是我们刚刚创建的,如果你不是这个名字根据你的实际情况去修改
- -p 9200:9200:端口映射,9200暴露的是用户访问的http端口
- -p 9300:9300:端口映射,9300暴露的是es各个节点互联的端口,这个端口我们单点模式现在用不到,你不暴露也没问题
在浏览器中输入:http://虚拟机IP:9200/ 即可看到elasticsearch的响应结果:
2. 部署kibana
kibana可以给我们提供一个elasticsearch的可视化界面,便于我们学习。
2.1 部署
运行docker命令,部署kibana:
docker run -d \
--name kibana \
-e ELASTICSEARCH_HOSTS=http://es:9200 \
--network=es-net \
-p 5601:5601 \
kibana:7.12.1
命令解释:
- --name kibana:设置的容器名称
- -e ELASTICSEARCH_HOSTS=http://es:9200:设置elasticsearch的地址,因为kibanna已经与elasticsearch在同一个网络,因此可以用容器名直接访问elasticsearch
- --network=es-net:加入一个名为es-net的网络中,与elasticsearch在同一个网络中
- -p 5601:5601:端口映射,用户访问的端口
kibanna的启动一般比较慢,需要多等待一会儿,可以通过命令:
docker logs -f kibana
查看运行日志,当查看到下面的日志,说明成功:
此时,在浏览器输入地址访问:http://虚拟机IP:5601/ ,即可看到结果:
2.2 DevTools
kibana中提供了一个DevTools界面:
这个界面可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。
上面的这个GET指的是GET请求,_search指的是搜索功能,下面的就是DSL语句,表示查询所有的数据。
我们只要点击一下这个播放标志,就可以发送一个Restful请求到es,右边就是es返回的数据。
我们来模拟一下,给es发送一个请求,就可以看到,跟我们直接访问es的9200端口的情况一样:
3. 安装IK分词器
3.1 在线安装ik插件
# 进入容器内部,es是容器的名称
docker exec -it es bash
# 在线下载并安装
./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip
#退出
exit
#重启容器
docker restart es
注意:如果你的es版本跟我的版本号不一样一定要修改下面ik分词器的版本号。
3.2 离线安装ik插件
我这里的ik版本号是7.12.1,如果你的es版本跟我的版本不一样的话,尽量不要用我的ik,防止版本不一致,导致版本冲突报错。
1)查看数据卷目录
安装插件要知道elasticsearch的plugins目录位置,而我们用了数据卷挂载 ,因此需要查看elasticsearch的数据卷目录,通过下面命令查看:
docker volume inspect es-plugins
显示结果:
[
{
"CreatedAt": "2024-08-07T14:10:04+08:00",
"Driver": "local",
"Labels": null,
"Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
"Name": "es-plugins",
"Options": null,
"Scope": "local"
}
]
说明plugins目录被挂载到了: /var/lib/docker/volumes/es-plugins/_data这个目录。
2)解压分词器安装包
将我文末分享的百度网盘里面的分词器,下载到本地,重命名为ik。
3)上传到es容器的插件数据卷中
也就是/var/lib/docker/volumes/es-plugins/_data。
4)重启容器
# 重启容器,es是容器名称
docker restart es
# 查看es日志
docker logs -f es
3.3 测试
IK分词器包括两种模式:
- ik_smart:最少切分
- ik_max_work:最细切分
# 测试分词器
GET /_analyze
{
"analyzer": "chinese",
"text": "全红婵巴黎奥运会卫冕女子单人10米跳台冠军!"
}
如果不用分词器的话:
它不会区分中文的这种人名,也不会区分地名。
使用分词器的话:
# 测试分词器
GET /_analyze
{
"analyzer": "ik_smart",
"text": "全红婵巴黎奥运会卫冕女子单人10米跳台冠军!"
}
结果如下:
这里已经能够区分地名了,但是人名还是不能区分。 这就需要用到我们接下来要介绍的功能。
3.4 扩展词词典
随着互联网的发展,“造词运行”也越发的频繁。出现了很多新的词语,在原有的词汇列表中并不词在。特别是中文的人名。
所以我们的词汇也需要不断的更新,IK分词器提供了扩展词汇的功能。
1)如果你是自己下载的话,你在挂载数据里面打开是没有config目录的,你需要新建一个config文件,然后将IK分词器config目录下的配置文件都复制进去,这些文件就是离线安装的IK里面的config文件:
如果你是离线安装的IK插件就简单的很多,直接找到数据卷下面插件里面的config目录:
2) 在IKAnalyzer.cfg.xml配置文件内容添加:
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 -->
<entry key="ext_dict">ext.dic</entry>
<!--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords"></entry>
<!--用户可以在这里配置远程扩展字典 -->
<!-- <entry key="remote_ext_dict">words_location</entry> -->
<!--用户可以在这里配置远程扩展停止词字典-->
<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
3)新建一个 ext.dic,可以参考config目录下复制一个配置文件进行修改:
注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑
4)重启elasticsearch
docker restart es
# 查看 日志
docker logs -f elasticsearch
我这里日志太快我看不清,用了下面的命令把es的实时日志,写成文件保存在/root目录下:
docker logs -f es > /root/log.txt
直接打开这个文件,搜索try load(这中间有个空格),显示已经成功加载exc.dic配置文件了:
5)测试效果:
# 测试分词器
GET /_analyze
{
"analyzer": "ik_smart",
"text": "全红婵巴黎奥运会卫冕女子单人10米跳台冠军!"
}
自定义的词已经能区分了:
3.5 停用词词典
在互联网项目中,在网络传输的速度很快,所以很多语言是不允许在网络上传递的,如关于宗教、政治等敏感话题,同时一些语气助词也可以忽略,那么我们在搜索时也应该忽略当前词汇。
IK分词器也提供了强大的停用词功能,让我们在索引时就直接忽略当前的停用词汇表中的内容。
1)IKAnalyzer.cfg.xml配置文件内容添加:
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 -->
<entry key="ext_dict">ext.dic</entry>
<!--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords">stopword.dic</entry>
<!--用户可以在这里配置远程扩展字典 -->
<!-- <entry key="remote_ext_dict">words_location</entry> -->
<!--用户可以在这里配置远程扩展停止词字典-->
<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
2)在stopword.dic添加停用词
了
的
啊
注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑
3)重启elasticsearch
# 重启服务
docker restart elasticsearch
docker restart kibana
# 查看 日志
docker logs -f elasticsearch
服务已经重新启动并且加载了停用词:
4)测试效果:
# 测试分词器
GET /_analyze
{
"analyzer": "ik_smart",
"text": "全红婵巴黎奥运会卫冕了女子单人10米的跳台冠军!"
}
结果:
{
"tokens" : [
{
"token" : "全红婵",
"start_offset" : 0,
"end_offset" : 3,
"type" : "CN_WORD",
"position" : 0
},
{
"token" : "巴黎",
"start_offset" : 3,
"end_offset" : 5,
"type" : "CN_WORD",
"position" : 1
},
{
"token" : "奥运会",
"start_offset" : 5,
"end_offset" : 8,
"type" : "CN_WORD",
"position" : 2
},
{
"token" : "卫冕",
"start_offset" : 8,
"end_offset" : 10,
"type" : "CN_WORD",
"position" : 3
},
{
"token" : "女子",
"start_offset" : 11,
"end_offset" : 13,
"type" : "CN_WORD",
"position" : 4
},
{
"token" : "单人",
"start_offset" : 13,
"end_offset" : 15,
"type" : "CN_WORD",
"position" : 5
},
{
"token" : "10米",
"start_offset" : 15,
"end_offset" : 18,
"type" : "TYPE_CQUAN",
"position" : 6
},
{
"token" : "跳台",
"start_offset" : 19,
"end_offset" : 21,
"type" : "CN_WORD",
"position" : 7
},
{
"token" : "冠军",
"start_offset" : 21,
"end_offset" : 23,
"type" : "CN_WORD",
"position" : 8
}
]
}
4. 安装包分享
链接: https://pan.baidu.com/s/1xfoS9Th2hdWFm4XAC5QQ8w?pwd=1234
提取码: 1234