Spring5-Cloud1部署es及IK分词器使用

最新推荐文章于 2024-06-03 18:25:02 发布
最新推荐文章于 2024-06-03 18:25:02 发布
阅读量450 收藏
点赞数
分类专栏： springcloud了解 文章标签： elasticsearch 搜索引擎 java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_60092693/article/details/124551305
版权

elasticsearch

elasticsearch底层是基于lucene来实现的。Lucene是一个Java语言的搜索引擎类库，是Apache公司的顶级项目，由DougCutting于1999年研发。官网地址：https://lucene.apache.org/ 。

我们统一的把mysql与elasticsearch的概念做一下对比：

MySQLElasticsearch说明
TableIndex索引(index)，就是文档的集合，类似数据库的表(table)
RowDocument文档（Document），就是一条条的数据，类似数据库中的行（Row），文档都是JSON格式
ColumnField字段（Field），就是JSON文档中的字段，类似数据库中的列（Column）
SchemaMappingMapping（映射）是索引中文档的约束，例如字段类型约束。类似数据库的表结构（Schema）
SQLDSLDSL是elasticsearch提供的JSON风格的请求语句，用来操作elasticsearch，实现CRUD增查改删

  • Mysql：

  • Elasticsearch：
    因此在企业中，往往是两者结合使用：

  • 对安全性要求较高的写操作，使用mysql实现，擅长事务类型操作，可以确保数据的安全和一致性

  • 对查询性能要求较高的搜索需求，使用elasticsearch实现，擅长海量数据的搜索、分析、计算

  • 两者再基于某种方式，实现数据的同步，保证一致性

部署单节点elasticsearch

[root@es ~]# curl -o /etc/yum.repos.d/docker.repo  http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
[root@es ~]# yum install -y docker-ce
[root@es ~]# docker network create es-net
//需要让es和kibana容器互联，这里先创建一个网络
[root@es ~]# docker network ls
NETWORK ID     NAME      DRIVER    SCOPE
17e06b6ddcc9   es-net    bridge    local
[root@es ~]# docker load -i es.tar
[root@es ~]# docker run -d --name es -e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \
    -e "discovery.type=single-node"    -v es-data:/usr/share/elasticsearch/data \
    -v es-plugins:/usr/share/elasticsearch/plugins --privileged --network es-net  -p 9200:9200 -p 9300:9300 elasticsearch:7.12.1

命令解释：

-e "ES_JAVA_OPTS=-Xms512m -Xmx512m"：内存大小
-e "discovery.type=single-node"：非集群模式
-v es-data:/usr/share/elasticsearch/data：挂载逻辑卷，绑定es的数据目录
-v es-plugins:/usr/share/elasticsearch/plugins：挂载逻辑卷，绑定es的插件目录
--privileged：授予逻辑卷访问权
--network es-net ：加入一个名为es-net的网络中
-p 9200:9200：端口映射配置
-e "cluster.name=es-docker-cluster"：设置集群名称
-e "http.host=0.0.0.0"：监听的地址，可以外网访问
-v es-logs:/usr/share/elasticsearch/logs：挂载逻辑卷，绑定es的日志目录

在浏览器中输入：192…168.1.11:9200访问

{
  "name" : "82dfbf85ec6e",
  "cluster_name" : "docker-cluster",
  "cluster_uuid" : "_ZS41HYmSHWSb97yq8gBxA",
  "version" : {
    "number" : "7.12.1",
    "build_flavor" : "default",
    "build_type" : "docker",
    "build_hash" : "3186837139b9c6b6d23c3200870651f10d3343b7",
    "build_date" : "2021-04-20T20:56:39.040728659Z",
    "build_snapshot" : false,
    "lucene_version" : "8.8.0",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}

部署kibana

运行docker命令，部署kibana

[root@es ~]# docker run -d --name kibana  -e ELASTICSEARCH_HOSTS=http://es:9200 \
--network=es-net -p 5601:5601 kibana:7.12.1

-e ELASTICSEARCH_HOSTS=http://es:9200：设置elasticsearch的地址，因为kibana已经与elasticsearch在一个网络，因此可以用容器名直接访问elasticsearch

kibana启动一般比较慢，需要多等待一会，可以通过命令：

[root@es ~]# docker logs -f kibana

查看运行日志，当查看到下面的日志，说明成功：
浏览器输入地址访问192.168.1.11:5601

DevTools

kibana中提供了一个DevTools界面：这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。
在这里插入图片描述
在这里插入图片描述

部署IK分词器

分词器测试

POST /_analyze     
//POST 请求方式
// _analyze：请求路径，这里省略了http://192.168.1.11:9200，有kibana帮我们补充
{
  "analyzer": "standard",    //analyzer分词器类型，这里是默认的standard分词器，不支持中文
  "text": "你好world！"		//text：要分词的内容
}

在这里插入图片描述
安装IK分词器

[root@es ~]# docker exec -it elasticsearch /bin/bash
# 在线下载并安装，较慢。可以先下好在安装
# ./bin/elasticsearch-plugin  install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip
[root@es ~]# docker restart elasticsearch

3.2.离线安装ik插件（推荐）

[root@es ~]# docker volume ls
DRIVER    VOLUME NAME
local     es-data
local     es-plugins
[root@es ~]# docker volume inspect es-plugins
[
    {
        "CreatedAt": "2022-04-03T09:36:08+08:00",
        "Driver": "local",
        "Labels": null,
        "Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
        //es-plugins目录被挂载的地方
        "Name": "es-plugins",
        "Options": null,
        "Scope": "local"
    }
]

[root@es ~]# mv ik /var/lib/docker/volumes/es-plugins/_data/
[root@es ~]# docker restart es
[root@es ~]# docker logs -f es

测试：

IK分词器包含两种模式：ik_smart：最少切分，ik_max_word：最细切分。
执行后结果就跟之前默认的standard分词器有些区别了在这里插入图片描述

扩展词词典

随着互联网的发展，出现了很多新的词语，在原有的词汇列表中并不存在。比如：“奥力给” 。很多语言是不允许在网络上传递的，比如敏感词。创建启用词词典my_first.dic，停用词词典stopword.dic
在这里插入图片描述
IK分词器提供了扩展词汇、停用词汇的功能。启用词词典、停用词词典。
1）打开IK分词器config目录：

[root@es ~]# ls /var/lib/docker/volumes/es-plugins/_data/ik/config/
extra_main.dic              extra_single_word_low_freq.dic  main.dic         stopword.dic
extra_single_word.dic       extra_stopword.dic              preposition.dic  suffix.dic
extra_single_word_full.dic  IKAnalyzer.cfg.xml              quantifier.dic   surname.dic
//定义的字典放到IKAnalyzer.cfg.xml所在的目录下
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 -->
        <entry key="ext_dict"></entry>
         <!--用户可以在这里配置自己的扩展停止词字典-->
        <entry key="ext_stopwords"></entry>
        <!--用户可以在这里配置远程扩展字典 -->
        <!-- <entry key="remote_ext_dict">words_location</entry> -->
        <!--用户可以在这里配置远程扩展停止词字典-->
        <!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
词典创建

创建启用词词典my_first.dic，停用词词典stopword.dic
注意当前文件的编码必须是 UTF-8 格式，严禁使用Windows记事本编辑

[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/my_first.dic
奥利
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/stopword.dic
给

启用词典 my_first.dic stopword.dic

[root@es ~]# vim /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 *** 添加扩展词典-->
        <entry key="ext_dict">my_first.dic</entry>
        <entry key="ext_stopwords">stopword.dic</entry>   
</properties>
[root@es ~]# docker restart es

重启es测试
在这里插入图片描述

4.部署es集群

部署es集群可以直接使用docker-compose来完成，不过要求你的Linux虚拟机至少有4G的内存空间
首先编写一个docker-compose文件，内容如下：

cat docker-compose.yml
version: '2.2'
services:
  es01:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es01
    environment:
      - node.name=es01
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es02,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data01:/usr/share/elasticsearch/data
    ports:
      - 9200:9200
    networks:
      - elastic
  es02:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es02
    environment:
      - node.name=es02
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data02:/usr/share/elasticsearch/data
    networks:
      - elastic
  es03:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es03
    environment:
      - node.name=es03
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es02
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data03:/usr/share/elasticsearch/data
    networks:
      - elastic

volumes:
  data01:
    driver: local
  data02:
    driver: local
  data03:
    driver: local

networks:
  elastic:
    driver: bridge

es运行需要修改一些linux系统权限，修改/etc/sysctl.conf文件

vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p

通过docker-compose启动集群：

docker-compose up -d

4.2.集群状态监控cerebro

kibana可以监控es集群，不过新版本需要依赖es的x-pack 功能，配置比较复杂。这里推荐使用cerebro来监控es集群状态，

r: local

networks:
elastic:
driver: bridge


es运行需要修改一些linux系统权限，修改/etc/sysctl.conf文件

```sh
vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p

通过docker-compose启动集群：

docker-compose up -d

4.2.集群状态监控cerebro

kibana可以监控es集群，不过新版本需要依赖es的x-pack 功能，配置比较复杂。这里推荐使用cerebro来监控es集群状态，

输入你的elasticsearch的任意节点的地址和端口，点击connect即可：

daydayup9527
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Elasticsearch IK分词器扩展说明1
08-08
"Elasticsearch IK分词器扩展说明" Elasticsearch IK分词器扩展说明是基于Elasticsearch的IK分词器的扩展，旨在实现高效的文本处理和搜索功能。IK分词器是一种基于Java实现的中文分词器，能够对中文文本进行精准的...
es(elasticsearch)整合SpringCloud（SpringBoot）搭建教程详解
08-19
Elasticsearch是一个分布式、RESTful风格的搜索和数据分析引擎，而SpringBoot和SpringCloud则简化了Java应用的开发和部署，特别是对于微服务架构。 首先，你需要确保已经安装并运行了Elasticsearch服务。这通常涉及...
SpringBoot集成es以及ik分词器实现基本的相关性搜索
weixin_59441154的博客
08-10 656
springboot集成es的基本操作
ElasticSearch篇——认识、安装和使用IK分词器插件，一篇文章带你彻底拿下！
我热爱学习，也乐于分享。无论是科技前沿的洞见，还是生活中的小技巧，我都会在这里与你分享。我相信，知识就是力量，而分享则能让这份力量得到更好的传递。
12-09 5203
所谓分词，即把一段中文或者别的划分成一个个的关键字，我们在搜索时会把自己的信息进行分词，会把数据库中或者索引库中的数据进行分词，然后进行一个匹配的操作，默认的中文分词器是将每一个字看成一个词，比如“我爱中国”会被分成“我”、“爱”、“中”、“国”，这显然是不符合要求的，所以我们需要安装中文分词器IK来解决这个问题！假如我想对以下的内容进行分词，我不希望“长江东逝水”分开，这个时候就需要我们自己去配置一下属于我们自己的字典了。（1）观察ES细节，我们自己编写的字典被加载进来了！
Elasticsearch分词插件配置
最新发布
qq_43646524的博客
06-03 792
本篇文章主要讲一下es分词插件的配置，以及词库的更新。
ElasticSearch系列(二)--es入门之ik分词器的使用
zisuu的博客
05-12 1148
基本概念 >将中文或者英文分成一个个关键字, 用于倒排索引 分词类型:(下面会详细介绍) ik_smart 最少切分 ik_max_word 最细粒度切分 下载安装 本人使用的是docker进行下载安装(真的很方便) 先进入es容器, 输入 ./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.6.0/elasticse
Elasticsearch从入门到项目部署 安装 分词器 索引库操作
我亦无他，唯手熟尔
12-11 463
Elasticsearch是一个基于Apache Lucene库实现的，Restful风格的，分布式搜索和数据分析引擎。基于倒排索引技术，实现了高性能的全文检索和数据分析功能。官方网站如下： 本章我们就一起来初步了解一下Elasticsearch的基本原理和一些基础概念。 1.1.倒排索引 elasticsearch之所以有如此高性能的搜索表现，正是得益于底层的倒排索引技术。那么什么是倒排索引呢？ 倒排索引的概念是基于MySQL这样的正向索引而言的。
Elasticsearch使用ik分词器
知识追寻者(Inheriting the spirit of open source, Spreading technology knowledge;)
02-10 2496
分析器 什么是分词概念？分析器能使用到哪些场景？ 分词意思就是将词语进行分组切片；比如 你好啊 可能就会被分词 为 “你好” 和 “啊”； 在进行搜索时如果根据高亮匹配就会将 “你好” 或者 “啊” 所有匹配的标题内容都匹配出来； 分析器一般就是使用在搜索引擎上；比如百度搜索 mysql时间减7天 就会匹配到 mysql, 时间 ， 减 ， 7天相匹配的内容； 如下的词条经过不同的分析器会得到不同的词条： "Set the shape to semi-transparent by calling se
elasticsearch + ik中文分词
08-07
然后，在ES的配置文件`elasticsearch.yml`中，我们需要指定使用IK分词器作为默认的分析器。例如： ```yaml index.analysis.analyzer.default.type: "ik_max_word" # 使用最细粒度分词模式 ``` 如果需要自定义词典...
elasticsearch ik分词 实现
08-07
本文将深入探讨Elasticsearch中如何实现IK分词器的配置与使用。 首先，IK分词器全称为“Intelligent Chinese Analyzer for Elasticsearch”，是由开源社区开发的专门针对Elasticsearch的中文分词组件。它的主要功能...
ElasticSearch后台操作(使用)手册1.01
08-08
这些标签会存储到 Elasticsearch 的 IK 分词插件中，且在分词时保持标签的完整性，如“纯棉柔巾”会被视为一个整体。 - **标签维护**：IK 分词器会定期刷新缓存和加载数据库中的启用标签，确保搜索时能正确识别。 ...
基于Spring Cloud和ES事件流构建的商城微服务
07-27
基于Spring Cloud和ES事件流构建的商城微服务英文文档Event Sourcing in Microservices Using Spring Cloud and Reactor.pdf
ES使用IK分词器
tcxianggg的专栏
03-04 213
1. 去github下载esIk分词的源码 https://github.com/medcl/elasticsearch-analysis-ik   2.安装maven并编译，这里注意jdk的版本 编译好的lib在target下面，配置在config下面都能直接用   3.将编译好的jar包（elasticsearch-analysis-ik-1.2.9.jar）cp到$ES_HO...
ElasticSearch之IK分词器安装以及使用介绍
热门推荐
qq_39939541的博客
07-27 1万+
elasticsearch 默认的内置分词器对中文的分词效果可能并不理想，因为它们主要是针对英文等拉丁语系的文本设计的。如果要在中文文本上获得更好的分词效果，我们可以考虑使用中文专用的分词器。IK 分词器是一个开源的中文分词器插件，特别为 Elasticsearch 设计和优化。它在中文文本的分词处理上表现出色，能够根据中文语言习惯进行精细的分词。IK 分词器允许用户自定义词典，可以添加新词、调整词频等，以便更好地适应特定的领域或需求。自定义词典可以提高分词的准确性和召回率。
微服务框架 SpringCloud微服务架构 29 ES 集群 29.2 搭建集群
谢谢你们的关注
12-09 472
微服务框架 SpringCloud微服务架构 29 ES 集群 29.2 搭建集群
ES---分词器
shall潇の菜园
03-17 3625
ES—分词器 转载链接：https://www.cnblogs.com/qdhxhz/p/11585639.html
spring cloud 整合elasticsearch 创建索引支持ik中文分词和拼音分词
u010401588的博客
02-11 1640
spring cloud 整合elasticsearch 创建索引
spring cloud 集成elasticsearch 实现findByIds查询
u010401588的博客
01-25 2276
我们使用elasticsearch常使用它的分词查询，但是因为业务需要也需要使用多id查询，elasticsearch提供了MultiGetRequest实现多ids,多索引查询： /** * 根据多个索引查询 */ public <T> List<T> findByIds(List<String> keys, Class<T> clazz) { RestHighLevelClient client=this.r
ES-分词器
weixin_39682289的博客
11-17 9589
分词器是es中的一个组件，通俗意义上理解，就是将一段文本按照一定的逻辑，分析成多个词语，同时对这些词语进行常规化的一种工具；ES会将text格式的字段按照分词器进行分词，并编排成倒排索引，正是因为如此，es的查询才如此之快。一个analyzer即分析器，无论是内置的还是自定义的，只是一个包含character filters（字符过滤器）、 tokenizers（分词器）、token filters（令牌过滤器）三个细分模块的包。character filters（字符过滤器）
ElasticSearch与Spring集成教程：IK分词器应用
"本教学内容主要讲解了ElasticSearch与Spring的集成，特别是如何使用IK分词器。课程涵盖了ElasticSearch的基本概念，包括索引、文档和类型的定义，并介绍了如何在ElasticSearch中创建索引。此外，还强调了在Spring...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值