Elasticsearch
集群分布式模型及选主与脑裂问题
分布式特性
- Elasticsearch 的分布式架构带来的好处
- 存储的水平扩容,支持PB级数据
- 提高系统的可用性,部分节点停止服务,整个集群的服务不受影响
- 存储的水平扩容,支持PB级数据
- Elasticsearch 的分布式架构
- 不同的集群通过不同的名字来区分,默认名字“elasticsearch”
- 通过配置文件修改,或者在命令行中-E cluster.name=geektime进行设定
节点
- 节点是一个Elasticsearch的实例
- 其本质上就是一个JAVA进程
- 一台机器上可以运行多个Elasticsearch进程,但是生产环境一般建议一台机器上就运行一个Elasticsearch实例
- 每一个节点都有名字, 通过配置文件配置,或者启动时候-E node.name=geektime指定
- 每一个节点在启动之后, 会分配一个UID,保存在data目录下
Coordinating Node
- 处理请求的节 点,叫Coordinating Node
- 路由请求到正确的节点,例如创建索引的请求,需要路由到Master
节点
- 路由请求到正确的节点,例如创建索引的请求,需要路由到Master
- 所有 节点默认都是Coordinating Node
- 通过将其他类型设 置成False,使其成为Dedicated Coordinating Node
Demo一启动节点,Cerebro 介绍
-
启动一个节点的
- bin/ elasticsearch -E node.name=node1 -E cluster.name=geektime -E path.data=node1_ data -E
http.port=9200
- bin/ elasticsearch -E node.name=node1 -E cluster.name=geektime -E path.data=node1_ data -E
-
https:/ /github.com/lmenezes/ cerebro/releases
- Overview /Filter by node / index
- Nodes
- REST / More
- Health Status
Demo -创建一个 新的索引
- 发送创建索引的请求
- Settings 3 Primary和1个Replica
- 请求可以发送到任何的节 点,处理你请求的节点,叫做Coordinating Node
- 创建 /删除索引的请求,只能被Master节点处理
Data Node
-
可以保存数据的节点,叫做Data Node
- 节点启动后,默认就是数据节点。可以设置node.data: false禁止
-
Data Node的职责
- 保存分片数据。在数据扩展上起到了至关重要的作用(由Master Node决定如何把分片分
发到数据节点上)
- 保存分片数据。在数据扩展上起到了至关重要的作用(由Master Node决定如何把分片分
-
通过增加数据节点
- 可以解决数据水平扩展和解决数据单点问题
Master Node
-
Master Node 的职责
- 处理创建,删除索引等请求/决定分片被分配到哪个节点/负责索引的创建与删除
- 维护并 且更新Cluster State
-
Master Node的最佳实践
- Master节点非常重要,在部署上需要考虑解决单点的问题
- 为一个集群设置多个Master节点/每个节点只承担Master的单一角色
Master Eligible Nodes &选主流程
- 一个集群,支持配置多个Master Eligible节点。这些节点可以在必要时(如Master节点出
现故障,网络故障时)参与选主流程,成为Master节点 - 每个节点启动后, 默认就是一个Master eligible 节点
- 可 以设置node.master: false禁止
- 当 集群内第一个Master eligible节点启动时候,它会将自己选举成Master节点
集群状态
- 集群状态信息(Cluster State),维护了一个集群中,必要的信息
- 所有 的节点信息
- 所有 的索引和其相关的Mapping与Setting 信息
- 分片 的路由信息.
- 在每个节点 上都保存了集群的状态信息
- 但是,只有Master节点才能修改集群的状态信息,并负责同步给其他节点
- 因为, 任意节点都能修改信息会导致Cluster State信息的不一致
Demo一增加一个新的节点
-
bin/elasticsearch -E node.name=node2 -E cluster.name=geektime -E
path.data=node2_ data -E http.port=9201 -
Nodes API看到新增节点
-
发现Replica被分配
Master Eligible Nodes &选主的过程
- 互相Ping对方,Node Id低的会成为被选举的节点
- 其他节点会加入集群,但是不承担Master节点的角色。一旦发现被选中的主节点丢失,
就会选举出新的Master节点
脑裂问题
- Split- -Brain,分布式系统的经典网络问题,当出现网络问题,一个节点和其他节点无法连接
- Node2和Node3会重新选举Master
- Node 1自己还是作为Master, 组成一个集群,同时更新Cluster State
- 导致2个master, 维护不同的cluster state。 当网络恢复时,无法选择正确恢复
如何避免脑裂问题
-
限定一个选举条件,设置quorum(仲裁),只有在Master eligible 节点数大于quorum 时,才能
进行选举- Quorum= (master 节点总数/2) + 1
- 当3个master eligible 时,设置discovery .zen.minimum_ master_ nodes 为2,即可避免脑裂
-
从7.0 开始,无需这个配置
-
移除minimum_ master_ nodes参数,让Elasticsearch自 己选择可以形成仲裁的节点。
-
典型的主节点选举现在只需要很短的时间就可以完成。集群的伸缩变得更安全、更容易,并且可能造成丢失数据的系统配置选项更少了。
-
节点更清楚地记录它们的状态,有助于诊断为什么它们不能加入集群或为什么无法选举出主节点
-
配置节点类型
一个节点默认情况下是一个Master eligible, data and ingest node:
节点类型 | 配置参数 | 默认值 |
---|---|---|
maste eligible | node.master | true |
data | node.data | true |
ingest | node.ingest | true |
coordinating only | 无 | 设置.上面三个参数全部为false |
machine learning | node.ml | true (需要enable x- -pack) |
知识点回顾
-
Elasticsearch 天生的分布式架构。为了实现实现数据可用性
- 部署多台Data Nodes,可以实现数据存储的水平扩展.
-
提高服务可用性
- Master节点非常重要。设置多台Master Eligible Nodes,同时设置合理的quorum数,避免脑
裂问题 - 设置多台 Coordinating Node,提升查询的可用性和性能
- Master节点非常重要。设置多台Master Eligible Nodes,同时设置合理的quorum数,避免脑
分片与集群的故障转移
Primary Shard -提升系统存储容量
- 分片是Elasticsearch分布式存储的基石
- 主分片/副本分片
- 通过主分片, 将数据分布在所有节点上
- Primary Shard,可以将- -份索引的数据,分散在多个Data Node上,实现存储的水平扩展
- 主分片(Primary Shard)数在索引创建时候指定,后续默认不能修改,如要修改,需重建索引
Replica Shard -提高数据可用性
-
数据可用性
- 通过引入副本分片(Replica Shard)提高数据的可用性。-旦主分片丢失,副本分片可以Promote成主分片。副本分片数可以动态调整。每个节点上都有完备的数据。如果不设置副本分片,-旦出现节点硬件故障,就有可能造成数据丢失
-
提升系统的读取性能
- 副本分片由主分片(Primary Shard)同步。通过支持增加Replica个数,-定程度可以提高读取的吞吐量
分片数的设定
-
如何规划一个索引的主分 片数和副本分片数.
- 主分片数过小:例如创建了1个Primary Shard的Index
- 如果该索引增长很快,集群无法通过增加节点实现对这个索引的数据扩展
- 主分片数过小:例如创建了1个Primary Shard的Index
-
主分片 数设置过大:导致单个Shard容量很小,引发一个节点上有过多分片,影响性能
-
副本分片数设置过多,会降低集群整体的写入性能
单节点集群
增加一个数据节点
再增加一个数据节点
故障转移
集群健康状态
Demo
- 启动一个节点,3个Primary shard, 一个Replica, 集群黄色,因为无法分配Replica
- 启动三个节点,1个索引上包含3个Primary Shard, -个Replica
- 关闭 Node 1 (Master)
- 查看 Master Node重新选举
- 集群变黄, 然后重新分配
本节知识点回顾
-
主分片,副本分片的作用.
- 主分片的分片数,设置后不能修改,除非重新索引数据
- 副本分片可以随时修改
-
集群的故障转移
- 需要集群具备故障转移的能力, 必须将索引的副本分片数设置为1,否则,- -点有节点就是,就会造成数据丢失