图解 ETCD｜基本概念｜组件架构｜内部通信

小生凡一

于 2024-08-10 13:06:34 发布

阅读量657

点赞数 11

分类专栏：遇见Golang，拥抱未来文章标签： etcd 架构数据库

本文链接：https://blog.csdn.net/weixin_45304503/article/details/141087558

版权

遇见Golang，拥抱未来专栏收录该内容

40 篇文章 45 订阅

订阅专栏

ETCD 基本概念

术语	描述	备注
Raft	etcd实现一致性的核心	etcd有etcd-raft模块
Follower	Raft中的从属节点	竞争leader失败
Leader	Raft中的领导协调节点	Leader 节点协调整个集群
Candidate	候选节点	当Follower接受Leader节点的消息超时会转变为Candidate
Node	Raft 状态机的实例	Raft 中涉及多个节点
Member	etcd实例，管理着对应的Node节点	可处理客户端请求
Peer	同一集群中的另一个Member	其他成员
Cluster	etcd集群	拥有多个etcd Member
Lease	租期	关键设置的租期，过期删除
Watch	检测机制	监控键值对的变化
Term	任期	某个节点成为Leader，到下一次竞选的时间
WAL	预写式日志	用户持久化存储的日志格式
Client	客户端	向etcd发起请求的客户端

ETCD 核心架构

在这里插入图片描述

gRPC Server：etcd与其他etcd节点之间的通信和信息的同步。
MVCC：多版本控制，etcd的键值对的每一次操作行为都会被记录存储。这些数据底层存储在BoltDB数据库中。
ETCD Server：对外接受和处理客户端的请求
Snapshot：快照，以防WAL日志过多用于存储某一时刻etcd的所有数据。
WAL：预写式日志，etcd中的数据提交前都会记录到日志中。
Raft：数据一致性算法

ETCD 网关和 gRPC-gateway

ETCD网关：构建etcd集群的门户

ETCD网关是一个简单的TCP代理，可将网络数据转发到ETCD集群中。
网关是无状态且透明的，既不会检查客户端请求，也不会干扰集群响应，支持多个etcd服务实例。

如果同一服务器上的多应用程序访问的ETCD集群，每个应用程序仍然需要知道ETCD集群的广播客户端断点地址，如果发生etcd集群实例的变更，只需要网关更新其端点即可。

总而言之：为了自动传播集群端点更改，etcd网关在每台机器上都运行，为多个应用提供访问相同的etcd集群服务。

gRPC-Gateway：为非gRPC的客户端提供HTTP接口

HTTP的方式访问etcd服务端，需要考虑安全的问题，gRPC-Gateway中提供的API接口支持开启安全认证。
有的语言客户端不支持gRPC通信协议，此时就可以使用gRPC-Gateway对外提供HTTP API接口，通过HTTP请求，实现与gRPC调用协议同样的功能。

gRPC-proxy

可伸缩的 watch API

如果客户端监视同一键或某一范围内的键，gRPC代理可以将这些客户端程序(c-watcher)合并为链接到etcd服务器的单个监视程序(s-watcher)，当watch事件发生时，代理将所有事件(s-watcher)广播到其(c-watcher)。
在这里插入图片描述

为了有效地将多个客户端监视程序合并为一个监视程序，gRPC代理在可能的情况下将新的c-watcher合并为现有地s-watcher，也有负载均衡的效果。

另外如果没有指定监视版本，gRPC代理将不能保证c-watcher从最近的存储修订版本开始监视。

可伸缩的 lease API

如果 ETCD 工作负载涉及很多的客户端租约活动，这些流可能会导致CPU使用率过高，为了减少核心集群上的流总数，gRPC代理支持将lease流合并。

在这里插入图片描述
可以缓存请求的响应，这个功能可以保护ETCD服务器免遭恶意for循环中滥用客户端的攻击。

ETCD 组件架构

包名	用途
auth	访问权限
client/clientv3	Go语言客户端SDK
embed	主要是etcd的config
etcdmain	入口程序
etcdctl	命令行客户端实现
etcdserver	server主要的包
functional/hack	CMD、Dockerfile 之类的杂项
integration	和etcd集群相关
lease	租约相关
mvcc	etcd的底层存储，包含Watch实现
pkg、proxy	etcd使用的工具集合
raft	raft算法模块
wal	日志模块
scripts/security/tests/tools/version	脚本、测试等相关内容

ETCD的交互总览

在这里插入图片描述

etcd Server：接收客户端的请求，在上述的etcd项目代码中对应etcd server包。etcd server中的raft模块，用于与etcd-raft库进行通信。
etcd Raft ：etcd的raft库，raft库更重要的式负责与集群中的其他etcd server进行交互，实现分布式下的数据一致性。

首先写数据到etcd节点中，然后当前的etcd节点与集群中的其他etcd节点之间进行通信，确认存储数据成功之后回复客户端。

在raft协议中写入数据的etcd必定式leader节点，如果客户端提交数据到非leader节点时，该节点需要将请求转发到etcd leader节点处理

在这里插入图片描述

etcd的gRPC通信接口

Client定义

type Client struct{
	Cluster  // 向集群里增加etcd服务端节点之类，属于管理员操作
	KV // 我们主要使用的功能，即操作K-V
	Lease // 租约相关操作，比如申请一个TTL=10s的租约
	Auth // 管理ETCD的用户和权限 属于管理员操作
	Watcher // 观察订阅，从而监听最新的数据变化
	Maintenance // 维护etcd，比如主动迁移etcd的leader节点，管理员操作
	UserName string // 认证的用户名
	Password string // 认证的密码
}