【Elasticsearch 7(1)，2024年最新教你一种更清晰的大数据开发架构

最新推荐文章于 2024-05-27 07:31:01 发布

2401_84166836

最新推荐文章于 2024-05-27 07:31:01 发布

阅读量898

点赞数 24

分类专栏：程序员文章标签：大数据 elasticsearch 架构

本文链接：https://blog.csdn.net/2401_84166836/article/details/137717968

版权

程序员专栏收录该内容

30 篇文章 0 订阅

订阅专栏

(3)其他配置迁移，将旧版本的config/elasticsearch.yml文件中自行添加的配置例如集群、节点、内存、网络、安全等配置迁移过来。

(4)设置用户名密码与旧版本保持一致。

2.创建快照

(1)服务运行时建立速度可能很慢，并且升级完成后还需要同步中途的数据，所以建议停止访问es。

(2)编辑旧版本es配置文件config/elasticsearch.yml，设置快照仓库路径path.repo: ['xxx/es_snapshot_repository']。

(3)注册快照仓库。注册后会在(2)中仓库路径中建立相应的文件夹。

PUT /_snapshot/snapshot_repository
{
  "type": "fs",
  "settings": {
    "location": "snapshot\_repository"
  }
}

(4)建立索引数据快照。

#第二个路径是注册的快照仓库名称，第三个是快照名称，命名上可以加上日期，没有请求体就是全部索引都建立快照
PUT /_snapshot/snapshot_repository/snapshot_20231024

(5)在kibana中Stack Management->Snapshot and Restore中查看快照是否建立完毕。
(6)完成创建快照以后，记录当前数据总量以及分词搜索结果用于验证。之后停止旧版本的es和kibana。

GET my_index/_search
{
  "query": {
    "match": {
      "keyword": "李佳琪哪李贵了"
    }
  },
  "track\_total\_hits": true,
  "\_source": ["keyword"]
}

3.恢复快照

(1)编辑新版本es配置文件config/elasticsearch.yml，与2中(2)的快照仓库路径保持一致。

(2)启动新版本es和kibana。

(3)注册快照仓库。与2中(3)保持一致。

(4)进入kibana中Stack Management->Snapshot and Restore，选择快照点击Restore进行恢复。
在这里插入图片描述

(5)取消全部勾选，只勾选业务索引数据，es、kibana自身的索引数据视情况恢复。

在这里插入图片描述

后续一直点击next，恢复数据即可，恢复完成后验证数量和分词搜索结果。

三、服务修改

我们有使用一个项目es-search访问es，其他服务引入它的jar包来调用编写好的接口访问es。

1.现有代码兼容es8.x

目前我们使用rest-high-level-client相关api访问es。ES官方文档显示8.x版本不再提供这个包，而是使用elasticsearch-java访问，其中的api全部变了。同时，官方给出了一种过度方案，使用7.17.x版本的rest-high-level-client可以以兼容模式访问8.x 原文地址。

所以如果在不修改业务代码的情况下，要访问es8.x需要使用7.17.14的es相关包。

<properties>
    <!--spring-boot-parent-starter有es的依赖，所以只需要变更es版本即可变更依赖-->
    <elasticsearch.version>7.17.14</elasticsearch.version>
</properties>

2.兼容两个版本es

经过实测发现，使用7.17.14版本的包无法访问当前版本为7.9.2的es 。

所以考虑需要搞两套代码，分别使用7.6.2的包和7.17.14的包。将es-search拆分为4个子模块，

es-search，依赖其余三个模块，最终作为构建jar包的模块。
es-search-common，提供不受es版本影响并且被共同依赖的代码，例如实体类、工具类、service接口。
es-search-es7和gpmall-search-es8，分别使用7.6.2和7.17.14的es相关包编写实现service接口，通过配置选择性将实现类加载到spring容器。

在这里插入图片描述

存在的问题

由于java不支持同时引入多版本的包，所以在最终使用是只有一种版本的包。例如project-A引入es-search后，pom文件只能指定一个es的版本。那给不同地区部署的时候就需要不同的es包的版本，并修改配置文件以加载不同版本的实现类。这样导致不好管理，测试也比较麻烦。

2.1 修改es包

使用maven-shade-plugin插件对7.17.14的包进行修改。它可以对package名进行一部分的替换，这样就相当于把es的代码copy了一份，就可以跟7.6.2的包同时使用。

(1)使用maven-shade-plugin修改包

创建一个空的maven项目，引入7.17.14的es依赖。因为es底层是lucene，所以我们除了修改org.elasticsearch也需要修改org.apache.lucene。

最后还需要注意修改META-INF中service的全限定类名，有的项目是通过类加载器去找的，所以也要改。
在这里插入图片描述

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
 xmlns="http://maven.apache.org/POM/4.0.0"
 xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.yourcompany.yourporject</groupId>
    <artifactId>shade-es</artifactId>
    <version>7.17.14-SNAPSHOT</version>

    <properties>
        <maven.compiler.source>8</maven.compiler.source>
        <maven.compiler.target>8</maven.compiler.target>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.elasticsearch</groupId>
            <artifactId>elasticsearch</artifactId>
            <version>7.17.14</version>
            <exclusions>
                <exclusion>
                    <groupId>commons-logging</groupId>
                    <artifactId>commons-logging</artifactId>
                </exclusion>
                <exclusion>
                    <groupId>org.apache.logging.log4j</groupId>
                    <artifactId>log4j-core</artifactId>
                </exclusion>
                <exclusion>
                    <groupId>org.apache.logging.log4j</groupId>
                    <artifactId>log4j-api</artifactId>
                </exclusion>
            </exclusions>
        </dependency>
        <dependency>
            <groupId>org.elasticsearch.client</groupId>
            <artifactId>elasticsearch-rest-high-level-client</artifactId>
            <version>7.17.14</version>
            <exclusions>
                <exclusion>
                    <groupId>commons-logging</groupId>
                    <artifactId>commons-logging</artifactId>
                </exclusion>
            </exclusions>
        </dependency>
    </dependencies>




**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。**
![img](https://img-blog.csdnimg.cn/img_convert/d5884685e54346528f5b3b5da9660172.png)
![img](https://img-blog.csdnimg.cn/img_convert/07c69f007fe9660957d4362a8cc23ea6.png)
![img](https://img-blog.csdnimg.cn/img_convert/35855b623635509f9992b2c836a8367c.png)
![img](https://img-blog.csdnimg.cn/img_convert/cec11957ea66b0cda24de6899a482f72.png)
![img](https://img-blog.csdnimg.cn/img_convert/67aadfb1c99e2dcedb704f24589fb9bc.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
![img](https://img-blog.csdnimg.cn/img_convert/59d955342378486967168c2222116893.png)

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
[外链图片转存中...(img-A3bhs9qF-1712995973809)]

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

2401_84166836

关注

24
点赞
踩
6

收藏

觉得还不错? 一键收藏
0
评论
【Elasticsearch 7(1)，2024年最新教你一种更清晰的大数据开发架构

(3)其他配置迁移，将旧版本的文件中自行添加的配置例如集群、节点、内存、网络、安全等配置迁移过来。(4)设置用户名密码与旧版本保持一致。
复制链接

扫一扫