ElasticSearch单节点扩展集群

最新推荐文章于 2024-04-23 17:27:55 发布
最新推荐文章于 2024-04-23 17:27:55 发布
阅读量4.6k 收藏 19
点赞数 5
分类专栏： elasticsearch 集群 文章标签： elasticsearch 大数据 检索引擎
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/reol_fan/article/details/114400431
版权

现况

公司线上环境，随着数据量的增长，存储、查询请求量的增长，单节点已经无法满足使用。需要将单机ES扩展成集群。

数据量：6亿+，800G+

环境依赖

机器配置：24C，64G虚拟机 centos6.8。

项目版本：es版本7.4.0，  jdk版本 1.8。

测试环境改造前

 

目标

将单节点ES扩展成3个主节点4个数据节点的集群。同时需要保障存量数据可以完整进入新集群中。本文章以测试环境为基础先验证。

思路

现有 151(es-m-01)，168(es-m-02)，169(es-m-03)，170(es-s-01)，171(es-s-02)，172(es-s-03)，173(es-s-04) 作为测试机器。

  1. 新建一个主节点(169)，将原ES data目录拷贝到新节点中，启动验证是否正常。
  2. 新增4个数据节点(170,171,172,173)，设置启动3个节点后同步数据。
  3. 启动数据节点，加入es单节点，等待自动同步数据。
  4. 动态新增2个主节点(151,168)。
  5. 整体停机，更改数据节点配置，设置为3个主节点。
  6. 确认主节点加入后，关停原始主节点(169)。
  7. 设置主节点数据为不存储。删除data数据。启动主节点。
  8. reindex数据，让数据更均匀分布。

环境准备

操作列表

  • 下载设置jdk1.8以上
  • 将es7.4.0解压放在目录/opt/bssoft/es 下
  • 将ik插件（elasticsearch-analysis-ik-7.4.0）放入plugins/
  • 更改/etc/security/limits.conf ，追加如下配置
* soft nofile 65536
* hard nofile 65536
* soft nproc 4096
* hard nproc 4096
es soft memlock unlimited
es hard memlock unlimited

  • 修改/etc/sysctl.conf

vm.max_map_count=262144

执行  sysctl -p

  • 更改/etc/hosts 文件

192.168.1.151 es-m-01
192.168.1.168 es-m-02
192.168.1.169 es-m-03
192.168.1.170 es-s-01
192.168.1.171 es-s-02
192.168.1.172 es-s-03
192.168.1.173 es-s-04
192.168.1.175 es-s-05

  • 添加es用户组用户，更改用户

groupadd es
useradd es -g es -p es
#更改es文件目录权限
chown -R es:es es
  • 关闭防火墙，或开放9200和9300端口

效果验证

[es@hosta171 es]$ pwd
/opt/bssoft/es
[es@hosta171 es]$ ll
总用量 556
drwxr-xr-x.  2 es es   4096 9月  27 2019 bin
drwxr-xr-x.  2 es es    178 3月   5 16:37 config
drwxr-xr-x.  3 es es     19 3月   5 14:30 data
drwxr-xr-x. 10 es es    119 9月  27 2019 jdk
drwxr-xr-x.  3 es es   4096 9月  27 2019 lib
-rw-r--r--.  1 es es  13675 9月  27 2019 LICENSE.txt
drwxr-xr-x.  2 es es   4096 3月   5 15:03 logs
drwxr-xr-x. 37 es es   4096 9月  27 2019 modules
-rw-r--r--.  1 es es 523209 9月  27 2019 NOTICE.txt
drwxr-xr-x.  3 es es     25 3月   4 17:21 plugins
-rw-r--r--.  1 es es   8500 9月  27 2019 README.textile README.textile
[es@hosta171 es]$ ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 31792
max locked memory       (kbytes, -l) unlimited
max memory size         (kbytes, -m) unlimited
open files                      (-n) 65536
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 8192
cpu time               (seconds, -t) unlimited
max user processes              (-u) 4096
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited
[es@hosta171 es]$ firewall-cmd --state
not running

操作过程

步骤1 新建一个主节点(169)，将原ES data目录拷贝到新节点中，启动验证是否正常。

169 config/elasticsearch.yml

cluster.name: bssoft
node.name: es-m-03
path.data: /opt/bssoft/es/data
path.logs: /opt/bssoft/es/logs
bootstrap.memory_lock: true
network.host: 0.0.0.0
http.port: 9200
#discovery.seed_hosts: ["192.168.1.151","192.168.1.168","192.168.1.169"]
#cluster.initial_master_nodes: ["es-m-01","es-m-02","es-m-03"]
discovery.seed_hosts: ["192.168.1.169"]
cluster.initial_master_nodes: ["es-m-03"]
#gateway.recover_after_nodes: 3
#bootstrap.system_call_filter: false
path.repo: ["/usr/local/backups/es_backup"]
http.cors.enabled: true
http.cors.allow-origin: "*"
node.data: true
node.master: true

拷贝数据，更改目录权限

[root@ev01 data]# scp -rp nodes/ root@192.168.1.169:/opt/bssoft/es/data/

[root@host169 es]#cd /opt/bssoft/es
[root@host169 es]#chown -R es:es data/

切换 es用户，启动elasticsearch

步骤2 新增4个数据节点(170,171,172,173)，设置启动3个节点后同步数据。

关闭169 es，更改elasticsearch.yml 开启节点备份

gateway.recover_after_nodes: 3

更改170，171，172，173配置 elasticsearch.yml配置

cluster.name: bssoft
node.name: es-s-01
# node.attr.rack: r1
path.data: /opt/bssoft/es/data
path.logs: /opt/bssoft/es/logs
bootstrap.memory_lock: true
network.host: 0.0.0.0
http.port: 9200
#discovery.seed_hosts: ["192.168.1.151","192.168.1.168","192.168.1.169"]
#cluster.initial_master_nodes: ["es-m-01","es-m-02","es-m-03"]
discovery.seed_hosts: ["192.168.1.169"]
cluster.initial_master_nodes: ["es-s-03"]
gateway.recover_after_nodes: 3
#action.destructive_requires_name: true
bootstrap.system_call_filter: false
path.repo: ["/usr/local/backups/es_backup"]
http.cors.enabled: true
http.cors.allow-origin: "*"
node.data: true
node.master: false

验证集群以及数据同步

http://192.168.1.169:9200/_cat/nodes

192.168.1.171 35 71 2 0.05 0.20 0.40 dil  - es-s-02
192.168.1.172 32 57 0 0.00 0.03 0.05 dilm - es-s-03
192.168.1.170 29 57 0 0.00 0.01 0.05 dil  - es-s-01
192.168.1.151 15 98 1 0.18 0.14 0.11 dilm  * es-m-03
192.168.1.173 23 56 0 0.04 0.05 0.05 dil  - es-s-04

步骤3 启动数据节点，加入es单节点，等待自动同步数据。

通过elasticsearch-head看到数据已同步完毕

（博主数据同步的elasticsearch-head截图没有保留）

步骤4 动态新增2个主节点(151,168)。

151，168 更改配置文件

差异配置 discovery.zen.minimum_master_nodes: 2

cluster.name: bssoft
node.name: es-m-01
# node.attr.rack: r1
path.data: /opt/bssoft/es/data
path.logs: /opt/bssoft/es/logs
# Lock the memory on startup:
bootstrap.memory_lock: true
network.host: 0.0.0.0
http.port: 9200
discovery.seed_hosts: ["192.168.1.151","192.168.1.168","192.168.1.169"]
cluster.initial_master_nodes: ["es-m-01","es-m-02","es-m-03"]
#action.destructive_requires_name: true
#bootstrap.system_call_filter: false
path.repo: ["/usr/local/backups/es_backup"]
http.cors.enabled: true
http.cors.allow-origin: "*"
node.data: false
node.master: true

discovery.zen.minimum_master_nodes: 2

验证集群以及数据同步

http://192.168.1.169:9200/_cat/nodes

192.168.1.168 16 46 1 0.02 0.04 0.05 ilm  - es-m-02
192.168.1.169 15 89 1 0.01 0.07 0.05 dilm  * es-m-03
192.168.1.171 35 71 2 0.05 0.20 0.40 dil  - es-s-02
192.168.1.172 32 57 0 0.00 0.03 0.05 dilm - es-s-03
192.168.1.170 29 57 0 0.00 0.01 0.05 dil  - es-s-01
192.168.1.151 15 98 1 0.18 0.14 0.11 ilm  - es-m-01
192.168.1.173 23 56 0 0.04 0.05 0.05 dil  - es-s-04

效果 图

步骤5 整体停机，更改数据节点配置，设置为3个主节点。

更改169 elasticsearch.yml

discovery.seed_hosts: ["192.168.1.151","192.168.1.168","192.168.1.169"]
cluster.initial_master_nodes: ["es-m-01","es-m-02","es-m-03"]
discovery.zen.minimum_master_nodes: 2

更改170，171，172，173 elasticsearch.yml

discovery.seed_hosts: ["192.168.1.151","192.168.1.168","192.168.1.169"]
cluster.initial_master_nodes: ["es-m-01","es-m-02","es-m-03"]

步骤6 确认主节点加入后，关停原始主节点(169)。

http://192.168.1.169:9200/_cat/nodes

结果应与步骤4一致

步骤7 设置主节点数据为不存储。删除data数据。启动主节点。

将169(es-m-03) kill掉

http://192.168.1.169:9200/_cat/nodes

192.168.1.168 16 46 1 0.02 0.04 0.05 ilm  - es-m-02
192.168.1.171 35 71 2 0.05 0.20 0.40 dil  - es-s-02
192.168.1.172 32 57 0 0.00 0.03 0.05 dilm - es-s-03
192.168.1.170 29 57 0 0.00 0.01 0.05 dil  - es-s-01
192.168.1.151 15 98 1 0.18 0.14 0.11 ilm  * es-m-01
192.168.1.173 23 56 0 0.04 0.05 0.05 dil  - es-s-04

等待数据同步结束 

更改169 elasticsearch.yml

node.data: false

删除169  data下的数据后再次启动

结果验证

http://192.168.1.169:9200/_cat/nodes

192.168.1.168 16 46 1 0.02 0.04 0.05 ilm  - es-m-02
192.168.1.169 15 89 1 0.01 0.07 0.05 ilm  - es-m-03
192.168.1.171 35 71 2 0.05 0.20 0.40 dil  - es-s-02
192.168.1.172 32 57 0 0.00 0.03 0.05 dilm - es-s-03
192.168.1.170 29 57 0 0.00 0.01 0.05 dil  - es-s-01
192.168.1.151 15 98 1 0.18 0.14 0.11 ilm  * es-m-01
192.168.1.173 23 56 0 0.04 0.05 0.05 dil  - es-s-04

elasticsearch-head验证

步骤8 reindex数据，让数据更均匀分布。

发现es-s-02上有全量数据，为了保证数据均匀，建议通过 _reidnex 重新索引下。

reol_fan
关注
  • 5
    点赞
  • 踩
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
es-test:Elasticsearch单节点性能测试
05-25
Elasticsearch尺寸测试 方法 生成以下格式的平面文件或随机日志信息 [source IP address] [yyyymmddHHMMss] GET http://[random uuid]/[random uuid]/[random uuid]/[random uuid] 0 TCP_MISS/200 - [target IP address] - 0 为源IP和目标IP地址生成随机IP地址 时间戳是从当前时间得出的 网址包含4个随机UUID 随机化以确保索引重用和/或压缩的机会最小 测试结果 100,000k记录在64ms内返回的集中搜索单个随机值 1m条记录在83ms内返回的集合中搜索单个随机值 100m记录在176ms返回的集合中搜索单个随机值 1b记录了在12,672ms（12.6秒）内返回的集合中搜索单个随机值的记录 尺寸 100m记录= 6.6GB单节点，创建
Elasticsearch的集群管理和扩展
禅与计算机程序设计艺术
01-28 673
1.背景介绍 1. 背景介绍 Elasticsearch是一个分布式、实时、高性能的搜索和分析引擎，它基于Lucene库构建，具有强大的文本搜索和分析功能。在大数据时代，Elasticsearch在各种应用场景中发挥着重要作用，例如日志分析、实时监控、搜索引擎等。 在实际应用中，Elasticsearch集群是非常重要的。集群可以提高搜索性能、提供故障容错和数据冗余等功能。因此，了解Elas...
CentOS7下搭建多节点Elasticsearch集群.docx
10-26
CentOS7下搭建多节点Elasticsearch集群
ElasticSearch单节点部署步骤
05-01
NULL 博文链接：https://woaijiadanoo.iteye.com/blog/2406140
ElasticSearch集群节点类型
01-07
集群节点 ELasticsearch的集群是由多个节点组成的，通过cluster.name设置集群名称，并且用于区分其它的集群，每个节点通过node.name指定节点的名称。 在Elasticsearch中，节点的类型主要有4种： master节点： 配置文件中node.master属性为true(默认为true)，就有资格被选为master节点。 master节点用于控制整个集群的操作。比如创建或删除索引，管理其它非master节点等。 data节点： 配置文件中node.data属性为true(默认为true)，就有资格被设置成data节点。 data节点主要用于执行数据相关的操作。
ELK 系列九、elasticsearch扩容（从单机至单机伪集群）
wuwei的博客
05-15 2373
目录 一、简介 二、升级操作 2.1 es配置 2.2 logstash设置 2.3守护进程配置 2.4查看结果 一、简介 单机伪集群是什么概念呢，就是同一台服务器有多个es节点 先介绍一下，原先的环境为在一台服务器192.168.0.15上安装了es、kibana、logstash，通过守护进程来启动 服务，单机单节点。现在升级为单机多节点。 二、升级操作 查看...
etcd单节点扩容成3节点
柠是柠檬的檬的博客
08-18 1470
etcd单节点扩容成3节点
ElasticSearch - 高可用集群扩展
了无牵挂者忘生，心有所爱者忘死
02-07 437
文章目录ElasticSearch - 高可用集群扩展1.集群的作用是什么？2.集群的核心概念2.1 Cluster集群2.2 Node节点2.3 Node节点组合2.4 分片3.搭建集群4.分片管理4.1 分片的基本概念4.2 创建索引(指定分片配置)4.3 索引分片分配4.4 手动移动分片4.5 修改副本分片数量5.集群健康管理5.1 查看集群健康状态5.2 查看集群索引状态5.3 查看集群磁盘状态5.4 查看集群节点状态5.5 查看集群节点状态 ElasticSearch - 高可用集群扩展 1.集群
ES水平扩容
王卫东 博客
03-25 3393
怎样为我们的正在增长中的应用程序按需扩容呢？ 当启动了第三个节点，我们的集群将会看起来如图1“拥有三个节点的集群——为了分散负载而对分片进行重新分配”所示。 图1. 拥有三个节点的集群——为了分散负载而对分片进行重新分配 Node 1和Node 2上各有一个分片被迁移到了新的Node 3节点，现在每个节点上都拥有2个分片，而不是之前的3个。 这表示每个节点的硬件资源（CPU, R...
ES单节点扩充成双节点伪集群
C_0010的博客
03-28 641
单节点es加入新节点组成集群需要如何配置呢？
Elasticsearch分片本质与集群的故障转移
01-07
分片简介 primary shard：主分片，提升系统存储容量，通过主分片将数据分布在所有节点上，主分片可以将一个索引的...分片是Elasticsearch中的最小工作单元，本质上是一个Lucene Index。在Lucene中，单个倒排索引文件被
salt-elk-celery:SaltStack脚本将单节点ELK集群建立到数据挖掘Celery日志中
05-18
Salt脚本使用Vagrant在单个VM上安装/配置ELK堆栈（Elasticsearch，Logstash，Kibana）。 在此设置中，Logstash将仅识别从Celery（ ）输出的日志，但可以轻松扩展到Apache日志等。 先决条件 安装最新版本的VirtualBox...
elasticsearch 和 kibana windows资源
03-30
Elasticsearch 是一个基于 JSON 的分布式搜索和分析引擎。 Kibana Kibana 是一个可扩展的用户界面，您可以借助它对数据进行可视化分析。 Elastic有一条完整的产品线：Elasticsearch、Kibana、Logstash等，前面说的...
Solr 与 Elasticsearch 的对比与选型
01-07
Elasticsearch允许你开始小规模使用，但是随着你使用数据的增长，它可以建立在横向扩展的开箱即用。当你需要更多的容量，只需添加更多的节点，并让集群重组，只需要增加额外的硬件，让集群自动利用额外的硬件。 可以...
Elasticsearch 7.9.1.zip
09-06
Elasticsearch是一个分布式的RESTful搜索和分析引擎，可让您轻松地大规模存储，搜索和分析。它使您可以执行和组合多种类型的搜索。它可以无缝扩展，并提供令人难以置信的快速答案，您可以根据各种因素对搜索结果进行...
linux常用非基础命令/操作
最新发布
这个博主不懒，但Ta什么也没写~（私信互关24小时必回）
04-23 384
本篇用于总结蒟蒻博主在使用linux系统的过程中会经常用到但老实记不住的一些非基础命令和操作，方便遗忘时查阅。
ElasticSearch 入门学习
灰熊
04-23 797
ElasticsSearch 是一个分布式的实时文档存储，每个字段可以被索引与搜索也是一个分布式实时分析搜索引擎也是一个能胜任上百个服务节点的扩展，并支持 PB 级别的结构化或者非结构化数据。
ESLint 、 e2e test 学习
weixin_45061460的博客
04-23 965
Lint和Format的区别：Lint只会告诉你代码中的错误或者不符合规范的地方，而Format是用来对格式作调整的。
如何配置elasticsearch单节点
03-27
要配置elasticsearch单节点，请按照以下步骤进行操作： 1. 下载和安装Elasticsearch 首先，您需要下载和安装Elasticsearch。请确保您已经安装了Java 8或更高版本，并且已将其添加到了PATH环境变量中。然后，您可以从Elasticsearch官网下载最新的稳定版本。 2. 配置elasticsearch.yml文件 在安装完成后，您需要修改elasticsearch.yml文件以配置Elasticsearch。该文件位于Elasticsearch安装目录下的config文件夹中。 打开elasticsearch.yml文件并进行以下更改： - 设置集群名称：cluster.name: my_elasticsearch_cluster - 设置节点名称：node.name: my_elasticsearch_node - 设置数据目录：path.data: /path/to/elasticsearch/data - 设置日志目录：path.logs: /path/to/elasticsearch/logs 注意，您应该将/path/to/elasticsearch/data和/path/to/elasticsearch/logs替换为您的数据和日志目录的实际路径。 3. 启动Elasticsearch 完成elasticsearch.yml文件的配置后，您可以启动Elasticsearch。打开终端并导航到Elasticsearch安装目录下的bin文件夹。然后运行以下命令： ./elasticsearch 这将启动Elasticsearch并将其绑定到默认端口9200和9300。您可以通过在浏览器中访问http://localhost:9200来验证Elasticsearch是否正在运行。如果一切正常，您应该能够看到Elasticsearch的基本信息。 4. 验证集群健康状况 您可以使用curl命令验证Elasticsearch集群的健康状况。打开终端并运行以下命令： curl -XGET 'http://localhost:9200/_cluster/health?pretty=true' 如果Elasticsearch正在运行，并且集群的健康状况为“green”，则表示一切正常。 现在，您已经成功地配置了一个Elasticsearch单节点。如果您想要将其扩展为多节点集群，请参阅Elasticsearch官方文档以获取更多信息。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值