【Elasticsearch 7，蚂蚁金服大数据开发架构面试题

最新推荐文章于 2024-06-13 09:52:40 发布

2401_84166836

最新推荐文章于 2024-06-13 09:52:40 发布

阅读量566

点赞数 22

分类专栏：程序员文章标签：大数据 elasticsearch 架构

本文链接：https://blog.csdn.net/2401_84166836/article/details/137717986

版权

程序员专栏收录该内容

30 篇文章 0 订阅

订阅专栏

(5)在kibana中Stack Management->Snapshot and Restore中查看快照是否建立完毕。
(6)完成创建快照以后，记录当前数据总量以及分词搜索结果用于验证。之后停止旧版本的es和kibana。

GET my_index/_search
{
  "query": {
    "match": {
      "keyword": "李佳琪哪李贵了"
    }
  },
  "track\_total\_hits": true,
  "\_source": ["keyword"]
}

3.恢复快照

(1)编辑新版本es配置文件config/elasticsearch.yml，与2中(2)的快照仓库路径保持一致。

(2)启动新版本es和kibana。

(3)注册快照仓库。与2中(3)保持一致。

(4)进入kibana中Stack Management->Snapshot and Restore，选择快照点击Restore进行恢复。
在这里插入图片描述

(5)取消全部勾选，只勾选业务索引数据，es、kibana自身的索引数据视情况恢复。

在这里插入图片描述

后续一直点击next，恢复数据即可，恢复完成后验证数量和分词搜索结果。

三、服务修改

我们有使用一个项目es-search访问es，其他服务引入它的jar包来调用编写好的接口访问es。

1.现有代码兼容es8.x

目前我们使用rest-high-level-client相关api访问es。ES官方文档显示8.x版本不再提供这个包，而是使用elasticsearch-java访问，其中的api全部变了。同时，官方给出了一种过度方案，使用7.17.x版本的rest-high-level-client可以以兼容模式访问8.x 原文地址。

所以如果在不修改业务代码的情况下，要访问es8.x需要使用7.17.14的es相关包。

<properties>
    <!--spring-boot-parent-starter有es的依赖，所以只需要变更es版本即可变更依赖-->
    <elasticsearch.version>7.17.14</elasticsearch.version>
</properties>

2.兼容两个版本es

经过实测发现，使用7.17.14版本的包无法访问当前版本为7.9.2的es 。

所以考虑需要搞两套代码，分别使用7.6.2的包和7.17.14的包。将es-search拆分为4个子模块，

es-search，依赖其余三个模块，最终作为构建jar包的模块。
es-search-common，提供不受es版本影响并且被共同依赖的代码，例如实体类、工具类、service接口。
es-search-es7和gpmall-search-es8，分别使用7.6.2和7.17.14的es相关包编写实现service接口，通过配置选择性将实现类加载到spring容器。

在这里插入图片描述

存在的问题

由于java不支持同时引入多版本的包，所以在最终使用是只有一种版本的包。例如project-A引入es-search后，pom文件只能指定一个es的版本。那给不同地区部署的时候就需要不同的es包的版本，并修改配置文件以加载不同版本的实现类。这样导致不好管理，测试也比较麻烦。

2.1 修改es包

使用maven-shade-plugin插件对7.17.14的包进行修改。它可以对package名进行一部分的替换，这样就相当于把es的代码copy了一份，就可以跟7.6.2的包同时使用。

(1)使用maven-shade-plugin修改包

创建一个空的maven项目，引入7.17.14的es依赖。因为es底层是lucene，所以我们除了修改org.elasticsearch也需要修改org.apache.lucene。

最后还需要注意修改META-INF中service的全限定类名，有的项目是通过类加载器去找的，所以也要改。
在这里插入图片描述

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
 xmlns="http://maven.apache.org/POM/4.0.0"
 xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.yourcompany.yourporject</groupId>
    <artifactId>shade-es</artifactId>
    <version>7.17.14-SNAPSHOT</version>

    <properties>
        <maven.compiler.source>8</maven.compiler.source>
        <maven.compiler.target>8</maven.compiler.target>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.elasticsearch</groupId>
            <artifactId>elasticsearch</artifactId>
            <version>7.17.14</version>
            <exclusions>
                <exclusion>
                    <groupId>commons-logging</groupId>
                    <artifactId>commons-logging</artifactId>
                </exclusion>
                <exclusion>
                    <groupId>org.apache.logging.log4j</groupId>
                    <artifactId>log4j-core</artifactId>
                </exclusion>
                <exclusion>
                    <groupId>org.apache.logging.log4j</groupId>
                    <artifactId>log4j-api</artifactId>
                </exclusion>
            </exclusions>
        </dependency>
        <dependency>
            <groupId>org.elasticsearch.client</groupId>
            <artifactId>elasticsearch-rest-high-level-client</artifactId>
            <version>7.17.14</version>
            <exclusions>
                <exclusion>
                    <groupId>commons-logging</groupId>
                    <artifactId>commons-logging</artifactId>
                </exclusion>
            </exclusions>
        </dependency>
    </dependencies>


    <build>
        <finalName>maven-shade</finalName>
        <plugins>
            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-shade-plugin</artifactId>
                <version>3.2.4</version>
                <executions>
                    <execution>
                        <phase>package</phase>
                        <goals>
                            <goal>shade</goal>
                        </goals>
                        <configuration>
                            <artifactSet>
                                <excludes>
                                    <exclude>classworlds:classworlds</exclude>
                                    <exclude>junit:junit</exclude>
                                    <exclude>jmock:*</exclude>
                                    <exclude>*:xml-apis</exclude>
                                    <exclude>org.apache.maven:lib:tests</exclude>
                                    <exclude>log4j:log4j:jar:</exclude>
                                </excludes>
                            </artifactSet>
                            <filters>
                                <filter>
                                    <artifact>*:*</artifact>
                                    <excludes>
                                        <exclude>META-INF/*.SF</exclude>
                                        <exclude>META-INF/*.DSA</exclude>
                                        <exclude>META-INF/*.RSA</exclude>
                                    </excludes>
                                </filter>
                            </filters>
                            <createDependencyReducedPom>true</createDependencyReducedPom>
                            <relocations>
                                <relocation>
                                    <!-- 改名前 -->
                                    <pattern>org.elasticsearch</pattern>


**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。**
![img](https://img-blog.csdnimg.cn/img_convert/77254dfc002faec3219e662c116680fe.png)
![img](https://img-blog.csdnimg.cn/img_convert/2487f54135082e49f828a7afbcbc7bf2.png)
![img](https://img-blog.csdnimg.cn/img_convert/079c9fb06e335817fb8b61755f55a3f0.png)
![img](https://img-blog.csdnimg.cn/img_convert/c35a74ccfbdfa8553f501a8f0ed0bb95.png)
![img](https://img-blog.csdnimg.cn/img_convert/84586126251cdded41bf105495a72146.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
![img](https://img-blog.csdnimg.cn/img_convert/1496beef7419418cc3e66a3b4e9a5bfa.png)

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
[外链图片转存中...(img-bLZf0N2I-1712995998397)]

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**