Elasticsearch04——集群及其搭建

一、单机部署的缺陷

 使用单台 Elasticsearch 服务器提供服务，往往都有最大的负载能力，超过这个阈值，服务器性能就会大大降低甚至不可用，所以生产环境中，一般都将es运行在集群中的多台服务器上。
 除了负载能力，单点服务器还存在其他问题：
 ①单台机器存储容量有限
 ②单服务器容易出现单点故障，无法实现高可用
 ③单服务的并发处理能力有限

二、集群

 一个集群就是由一个或多个服务器节点组织在一起，共同持有整个的数据，并一起提供索引和搜索功能。一个 Elasticsearch 集群有一个唯一的名字标识，这个名字默认就是”elasticsearch”。这个名字是很重要的，因为一个节点只能通过指定某个集群的名字，来加入这个集群。
 配置服务器集群时，集群中节点数量没有限制，大于等于 2 个节点就可以看做是集群了。一般出于高性能及高可用方面来考虑集群中节点数量都是 3 个以上。
 集群中包含很多服务器，一个节点就是其中的一个服务器。作为集群的一部分，它存储数据，参与集群的索引和搜索功能。
 一个节点也是由一个名字来标识的，默认情况下，这个名字是一个随机的漫威漫画角色的名字，这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的，因为在管理过程中，你会去确定网络中的哪些服务器对应于 Elasticsearch 集群中的哪些节点。
 一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下，每个节点都会被安排加入到一个叫做“elasticsearch”的集群中，这意味着，如果你在你的网络中启动了若干个节点，并假定它们能够相互发现彼此，它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。
 在一个集群里，只要你想，可以拥有任意多个节点。而且，如果当前你的网络中没有运行任何 Elasticsearch 节点，这时启动一个节点，会默认创建并加入一个叫做“elasticsearch”的集群。

三、集群的部署

1、windows下es集群的搭建

①将下载解压得到的elasticsearch文件夹复制3份，分别代表集群中的3个节点，可以将其放在同一个文件夹下

②将这几个文件夹重命名(不影响集群搭建，仅是个人习惯)

③删除每个节点文件夹中的 data 目录中的所有内容(如果存在)

④修改集群文件目录中每个节点的 config/elasticsearch.yml 配置文件

 node-9201：

#节点 1 的配置信息：
#集群名称，节点之间要保持一致
cluster.name: my-elasticsearch
#节点名称，集群内要唯一
node.name: node-9201
node.master: true
node.data: true
#ip 地址
network.host: localhost
#http 端口
http.port: 9201
#tcp 监听端口
transport.tcp.port: 9301
#discovery.seed_hosts: ["localhost:9301", "localhost:9302","localhost:9303"]
#discovery.zen.fd.ping_timeout: 1m
#discovery.zen.fd.ping_retries: 5
#集群内的可以被选为主节点的节点列表
#cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"

 node-9202：

#节点 2 的配置信息：
#集群名称，节点之间要保持一致
cluster.name: my-elasticsearch
#节点名称，集群内要唯一
node.name: node-9202
node.master: true
node.data: true
#ip 地址
network.host: localhost
#http 端口
http.port: 9202
#tcp 监听端口
transport.tcp.port: 9302
discovery.seed_hosts: ["localhost:9301"]
discovery.zen.fd.ping_timeout: 1m
discovery.zen.fd.ping_retries: 5
#集群内的可以被选为主节点的节点列表
#cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"

 node-9203：

#节点 3 的配置信息：
#集群名称，节点之间要保持一致
cluster.name: my-elasticsearch
#节点名称，集群内要唯一
node.name: node-9203
node.master: true
node.data: true
#ip 地址
network.host: localhost
#http 端口
http.port: 9203
#tcp 监听端口
transport.tcp.port: 9303
#候选主节点的地址，在开启服务后可以被选为主节点
discovery.seed_hosts: ["localhost:9301", "localhost:9302"]
discovery.zen.fd.ping_timeout: 1m
discovery.zen.fd.ping_retries: 5
#集群内的可以被选为主节点的节点列表
#cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"

⑤分别双击执行各节点的 bin/elasticsearch.bat, 启动节点服务器，启动后，会自动加入指定名称的集群

 待集群正常启动后，向集群中的某个节点新增或修改索引或文档数据时，在其他节点都可以看到变化。

⑥测试集群

 向各节点发送get请求，查看集群状态：

http://127.0.0.1:9201/_cluster/health

 响应如下：

{
    "cluster_name": "my-elasticsearch",
    "status": "green",#集群状态
    "timed_out": false,
    "number_of_nodes": 3, #节点个数
    "number_of_data_nodes": 3,
    "active_primary_shards": 0,
    "active_shards": 0,
    "relocating_shards": 0,
    "initializing_shards": 0,
    "unassigned_shards": 0,
    "delayed_unassigned_shards": 0,
    "number_of_pending_tasks": 0,
    "number_of_in_flight_fetch": 0,
    "task_max_waiting_in_queue_millis": 0,
    "active_shards_percent_as_number": 100.0
}

 TIP：status有3个可能的值，含义如下表所示

值	含义
green	所有的主分片和副分片都运行正常
yellow	所有的主分片都运行正常，但不是所有的副分片都运行正常
red	有主分片运行不正常

2、linux下es集群的搭建

①软件下载

 软件下载地址：https://www.elastic.co/cn/downloads/past-releases/elasticsearch-7-8-0

②解压

# 解压缩
tar -zxvf elasticsearch-7.8.0-linux-x86_64.tar.gz -C /opt/module
# 改名
mv elasticsearch-7.8.0 es-cluster

③分发到其他服务器节点

 将软件分发到其他节点：linux2, linux3，如果机器有限也可以参考windows下集群的搭建，复制多个节点

④创建用户

 因为安全问题，Elasticsearch 不允许 root 用户直接运行，所以要在每个节点中创建新用户：

useradd es #新增 es 用户
passwd es #为 es 用户设置密码
userdel -r es #如果错了，可以删除再加
chown -R es:es /opt/module/es-cluster #文件夹所有者

⑤修改配置文件

 修改config/elasticsearch.yml 文件，并分发文件到其他节点：

# 加入如下配置
#集群名称
cluster.name: cluster-es
#节点名称，每个节点的名称不能重复
node.name: node-9201
#ip 地址，每个节点的地址不能重复
network.host: linux1
#是不是有资格主节点
node.master: true
node.data: true
http.port: 9201
# head 插件需要这打开这两个配置
http.cors.allow-origin: "*"
http.cors.enabled: true
http.max_content_length: 200mb
#es7.x 之后新增的配置，初始化一个新的集群时需要此配置来选举 master
cluster.initial_master_nodes: ["node-9201"]
#es7.x 之后新增的配置，节点发现
discovery.seed_hosts: ["linux1:9300","linux2:9300","linux3:9300"]
gateway.recover_after_nodes: 2
network.tcp.keep_alive: true
network.tcp.no_delay: true
transport.tcp.compress: true
#集群内同时启动的数据任务个数，默认是 2 个
cluster.routing.allocation.cluster_concurrent_rebalance: 16
#添加或删除节点及负载均衡时并发恢复的线程个数，默认 4 个
cluster.routing.allocation.node_concurrent_recoveries: 16
#初始化数据恢复时，并发恢复线程的个数，默认 4 个
cluster.routing.allocation.node_initial_primaries_recoveries: 16

 修改/etc/security/limits.conf ，并分发文件：

# 在文件末尾中增加下面内容
es soft nofile 65536
es hard nofile 65536

 修改/etc/security/limits.d/20-nproc.conf，分发文件：

# 在文件末尾中增加下面内容
es soft nofile 65536
es hard nofile 65536
* hard nproc 4096
# 注：* 带表 Linux 所有用户名称

 修改/etc/sysctl.conf：

# 在文件中增加下面内容
vm.max_map_count=655360

 重新加载：

sysctl -p

⑥分别在不同节点上启动 ES 软件

cd /opt/module/es-cluster
#启动
#bin/elasticsearch
#后台启动
bin/elasticsearch -d

⑦测试集群