Spring5-Cloud1部署es及IK分词器使用

elasticsearch

elasticsearch底层是基于lucene来实现的。Lucene是一个Java语言的搜索引擎类库,是Apache公司的顶级项目,由DougCutting于1999年研发。官网地址:https://lucene.apache.org/ 。

我们统一的把mysql与elasticsearch的概念做一下对比:

MySQLElasticsearch说明
TableIndex索引(index),就是文档的集合,类似数据库的表(table)
RowDocument文档(Document),就是一条条的数据,类似数据库中的行(Row),文档都是JSON格式
ColumnField字段(Field),就是JSON文档中的字段,类似数据库中的列(Column)
SchemaMappingMapping(映射)是索引中文档的约束,例如字段类型约束。类似数据库的表结构(Schema)
SQLDSLDSL是elasticsearch提供的JSON风格的请求语句,用来操作elasticsearch,实现CRUD增查改删
  • Mysql:

  • Elasticsearch:
    因此在企业中,往往是两者结合使用:

  • 对安全性要求较高的写操作,使用mysql实现,擅长事务类型操作,可以确保数据的安全和一致性

  • 对查询性能要求较高的搜索需求,使用elasticsearch实现,擅长海量数据的搜索、分析、计算

  • 两者再基于某种方式,实现数据的同步,保证一致性

部署单节点elasticsearch

[root@es ~]# curl -o /etc/yum.repos.d/docker.repo  http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
[root@es ~]# yum install -y docker-ce
[root@es ~]# docker network create es-net
//需要让es和kibana容器互联,这里先创建一个网络
[root@es ~]# docker network ls
NETWORK ID     NAME      DRIVER    SCOPE
17e06b6ddcc9   es-net    bridge    local
[root@es ~]# docker load -i es.tar
[root@es ~]# docker run -d --name es -e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \
    -e "discovery.type=single-node"    -v es-data:/usr/share/elasticsearch/data \
    -v es-plugins:/usr/share/elasticsearch/plugins --privileged --network es-net  -p 9200:9200 -p 9300:9300 elasticsearch:7.12.1

命令解释:

-e "ES_JAVA_OPTS=-Xms512m -Xmx512m":内存大小
-e "discovery.type=single-node":非集群模式
-v es-data:/usr/share/elasticsearch/data:挂载逻辑卷,绑定es的数据目录
-v es-plugins:/usr/share/elasticsearch/plugins:挂载逻辑卷,绑定es的插件目录
--privileged:授予逻辑卷访问权
--network es-net :加入一个名为es-net的网络中
-p 9200:9200:端口映射配置
-e "cluster.name=es-docker-cluster":设置集群名称
-e "http.host=0.0.0.0":监听的地址,可以外网访问
-v es-logs:/usr/share/elasticsearch/logs:挂载逻辑卷,绑定es的日志目录

在浏览器中输入:192…168.1.11:9200访问

{
  "name" : "82dfbf85ec6e",
  "cluster_name" : "docker-cluster",
  "cluster_uuid" : "_ZS41HYmSHWSb97yq8gBxA",
  "version" : {
    "number" : "7.12.1",
    "build_flavor" : "default",
    "build_type" : "docker",
    "build_hash" : "3186837139b9c6b6d23c3200870651f10d3343b7",
    "build_date" : "2021-04-20T20:56:39.040728659Z",
    "build_snapshot" : false,
    "lucene_version" : "8.8.0",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}

部署kibana

运行docker命令,部署kibana

[root@es ~]# docker run -d --name kibana  -e ELASTICSEARCH_HOSTS=http://es:9200 \
--network=es-net -p 5601:5601 kibana:7.12.1
-e ELASTICSEARCH_HOSTS=http://es:9200:设置elasticsearch的地址,因为kibana已经与elasticsearch在一个网络,因此可以用容器名直接访问elasticsearch

kibana启动一般比较慢,需要多等待一会,可以通过命令:

[root@es ~]# docker logs -f kibana

查看运行日志,当查看到下面的日志,说明成功:
浏览器输入地址访问192.168.1.11:5601

DevTools

kibana中提供了一个DevTools界面:这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。
在这里插入图片描述
在这里插入图片描述

部署IK分词器

分词器测试

POST /_analyze     
//POST 请求方式
// _analyze:请求路径,这里省略了http://192.168.1.11:9200,有kibana帮我们补充
{
  "analyzer": "standard",    //analyzer分词器类型,这里是默认的standard分词器,不支持中文
  "text": "你好world!"		//text:要分词的内容
}

在这里插入图片描述
安装IK分词器

[root@es ~]# docker exec -it elasticsearch /bin/bash
# 在线下载并安装,较慢。可以先下好在安装
# ./bin/elasticsearch-plugin  install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip
[root@es ~]# docker restart elasticsearch

3.2.离线安装ik插件(推荐)

[root@es ~]# docker volume ls
DRIVER    VOLUME NAME
local     es-data
local     es-plugins
[root@es ~]# docker volume inspect es-plugins
[
    {
        "CreatedAt": "2022-04-03T09:36:08+08:00",
        "Driver": "local",
        "Labels": null,
        "Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
        //es-plugins目录被挂载的地方
        "Name": "es-plugins",
        "Options": null,
        "Scope": "local"
    }
]
[root@es ~]# mv ik /var/lib/docker/volumes/es-plugins/_data/
[root@es ~]# docker restart es
[root@es ~]# docker logs -f es

测试:

IK分词器包含两种模式:ik_smart:最少切分,ik_max_word:最细切分。
执行后结果就跟之前默认的standard分词器有些区别了在这里插入图片描述

扩展词词典

随着互联网的发展,出现了很多新的词语,在原有的词汇列表中并不存在。比如:“奥力给” 。很多语言是不允许在网络上传递的,比如敏感词。创建启用词词典my_first.dic,停用词词典stopword.dic
在这里插入图片描述
IK分词器提供了扩展词汇、停用词汇的功能。启用词词典、停用词词典。
1)打开IK分词器config目录:

[root@es ~]# ls /var/lib/docker/volumes/es-plugins/_data/ik/config/
extra_main.dic              extra_single_word_low_freq.dic  main.dic         stopword.dic
extra_single_word.dic       extra_stopword.dic              preposition.dic  suffix.dic
extra_single_word_full.dic  IKAnalyzer.cfg.xml              quantifier.dic   surname.dic
//定义的字典放到IKAnalyzer.cfg.xml所在的目录下
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 -->
        <entry key="ext_dict"></entry>
         <!--用户可以在这里配置自己的扩展停止词字典-->
        <entry key="ext_stopwords"></entry>
        <!--用户可以在这里配置远程扩展字典 -->
        <!-- <entry key="remote_ext_dict">words_location</entry> -->
        <!--用户可以在这里配置远程扩展停止词字典-->
        <!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
词典创建

创建启用词词典my_first.dic,停用词词典stopword.dic
注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑

[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/my_first.dic
奥利
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/stopword.dic
给

启用词典 my_first.dic stopword.dic

[root@es ~]# vim /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 *** 添加扩展词典-->
        <entry key="ext_dict">my_first.dic</entry>
        <entry key="ext_stopwords">stopword.dic</entry>   
</properties>
[root@es ~]# docker restart es

重启es测试
在这里插入图片描述

4.部署es集群

部署es集群可以直接使用docker-compose来完成,不过要求你的Linux虚拟机至少有4G的内存空间
首先编写一个docker-compose文件,内容如下:

cat docker-compose.yml
version: '2.2'
services:
  es01:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es01
    environment:
      - node.name=es01
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es02,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data01:/usr/share/elasticsearch/data
    ports:
      - 9200:9200
    networks:
      - elastic
  es02:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es02
    environment:
      - node.name=es02
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data02:/usr/share/elasticsearch/data
    networks:
      - elastic
  es03:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es03
    environment:
      - node.name=es03
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es02
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data03:/usr/share/elasticsearch/data
    networks:
      - elastic

volumes:
  data01:
    driver: local
  data02:
    driver: local
  data03:
    driver: local

networks:
  elastic:
    driver: bridge

es运行需要修改一些linux系统权限,修改/etc/sysctl.conf文件

vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p

通过docker-compose启动集群:

docker-compose up -d

4.2.集群状态监控cerebro

kibana可以监控es集群,不过新版本需要依赖es的x-pack 功能,配置比较复杂。这里推荐使用cerebro来监控es集群状态,

r: local

networks:
elastic:
driver: bridge


es运行需要修改一些linux系统权限,修改/etc/sysctl.conf文件

```sh
vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p

通过docker-compose启动集群:

docker-compose up -d

4.2.集群状态监控cerebro

kibana可以监控es集群,不过新版本需要依赖es的x-pack 功能,配置比较复杂。这里推荐使用cerebro来监控es集群状态,

输入你的elasticsearch的任意节点的地址和端口,点击connect即可:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值