etcd深入解析

最新推荐文章于 2025-03-20 10:23:26 发布
最新推荐文章于 2025-03-20 10:23:26 发布
阅读量843 收藏 10
点赞数 16
分类专栏： 数据库 Kubernetes 文章标签： etcd 数据库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43539320/article/details/137022467
版权

一、一致性协议

1.Raft协议：分布式算法
  • 领导人选举：当领导人出现故障的时候，选举新的领导人
  • 日志复制：领导人接受日志并发送到其他服务器上，强制其他服务器和自己一样
  • 安全性：保持数据的强一致性
  • 成员关系变化：配置发生变化时，集群可以继续工作
2、Raft算法的基本概念
  • 对称：所有节点都是平等的，客户端可以与其他所有节点交互
  • 非对称：只有主节点有决策权

二、etcd优点

1、优点
  1. 稳定可靠。主要作kv存储
  2. 服务发现使用节点租约来实现，并且支持多key
  3. 支持稳定的watch
  4. 支持MVCC（多版本并发控制）
  5. 高性能
2、简介

​ go语言编程、分布式、高可用的一致性键值存储系统，主要用于配置共享和服务发现

3、etcd架构

网络层：监听端口、完成节点间通信收发数据

Raft模块：实现数据强一致性

存储模块：KV存储、WAL文件、Snapshot管理、处理事务

复制状态机：将多台机器看成一台机器

4、典型应用场景举例

一般存储一些非常重要的元数据，多个客户端会watch这些原数据，适用于读多写少的场景

​ 1、服务注册与发现：在同一分布式集群中的进程或者服务如何才能找到对方并且建立连接

​ 2、配置中心：在服务启动的时候主动从etcd获取服务器信息

二、etcd初体验

1、端口

2379:监听外在客户端的请求

2380:监听集群中的其他server的请求

2、基础命令

#指定环境变量
export ETCDCTL_API=3
增删改查
#写入一个key
etcdctl put hgq 123
#读取一个key
etcdctl get hgq
#读取以hgq为前缀的所有key
etcdctl get --prefix hgq
#读取老版本的key,读取版本号为2的key
etcdctl get --rev=2 hgq
#删除一个key
etcdctl del hgq

#####删除一个范围内的key#########危险#####
etcdctl del hgq hgq9

#watch某一个key，显示对这个key都进行了哪些操作
etcdctl watch hgq
#压缩所有key版本号5之前的所有数据，压缩后，版本之前的key和value都不可用，谨慎操作
etcdctl compact 5
#查看当前key的版本号
etcdctl get hgq -w=json
#查看集群的member信息
etcdctl --endpoint=localhost:2379 member list
#查看etcd集群的健康状态
etcdctl health
#查看集群的状态，并显示leader的状态，显示db的大小
etcdctl --endpoints=http://XXXX:2380，(所有节点) endpoint status -w table 
#查看集群的健康情况
etcdctl --endpoints=http://XXXX:2380，(所有节点) endpoint health -w table

3、多节点集群化部署

（1）静态配置

​ 前提：

​ 集群节点个数已知

​ 集群各节点的地址已知

–initial-cluster 来传递各个节点的地址信息

--initial-cluster hgq1=http://10.0.1.10:2380,hgq2=http://10.0.1.11:2380,hgq3=http://10.0.1.12:2380

–initial-cluster-token 为集群赋予一个第一无二的tiken，防止信息紊乱，从而生成第一无二的cluster ID和member ID

–listen-client-urls 指定ip和端口监听客户端的请求

–advertise-client-urls 指定的该成员的客户端URL会向其他成员发布

配置示例

--name hgq1 --initial0advertise-peer-urls http://10.0.1.10:2380 \
--listen--peer-urls http://10.0.1.10:2380 \
--listen--client-urls http://10.0.1.10:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.0.1.10:2379 \
--initial-cluster-token hgq-test \
--initial-cluster hgq1=http://10.0.1.10:2380,hgq2=http://10.0.1.11:2380,hgq3=http://10.0.1.12:2380
(2)etcd常用配置参数

member相关参数

参数含义默认值备注
–data-dir数据目录
–wal-dirwal文件专用目录不设置将会把wal存入数据目录
–snapshot-count触发磁盘快照的数量100000
–heartbeat-intervalleader的心跳时间间隔100ms节点间的延迟较高时，可以适当调高，避免频繁发生leader切换
–election-timeout一次等待选举的时间1000ms
–listen-peer-urls集群之间通讯监听的URLhttp://localhots:2380如果为0.0.0.0，将监听所有网卡的指定端口，一般配置为内网IP
–max-snapshots保留最大快照数量50代表无上限
–max-wals保存的最大wal文件数50代表无上限
–listen-client-urls监听客户端的请求的URLhttp://localhots:2379如果为0.0.0.0，将监听所有网卡的指定端口，一般配置为内网IP

cluster相关参数

以–initial为前缀的选项用于一个集群最初的启动过程，重启时会被忽略。

参数含义默认值备注
–initial-adver-tise-peer-urls用于etcd集群内数据交互http://localhots:2380其他member可以访问到，可以为域名
–initial-cluster初始集群的配置default=http://localhots:2380default应替换为每个节点的name选项
–initial-cluster-state初始集群的状态new静态启动时为new，配置为existing将尝试加入一个已经存在的集群
–initial-cluster-token集群初始化的token
–strict-reconfig-check拒绝所有会引起quorum丢失的重配置false
–auto-compac-tion-retentionMVCC键值不被自动压缩的时间0h0为屏蔽自动压缩

日志相关参数

参数含义默认值备注
–debug将所有项目的日志级别调到DEBUGfalse默认日志级别为info

不安全参数

参数含义默认值备注
–force-new-cluster强制创建只有一个节点的集群false该选项会移除所有现存的节点，一般用于备份恢复
(3)服务发现

1⃣️通过现有集群

2⃣️通过DNS

三、etcd开放API之v3

1、v3的重要特性

  • gRPC

  • 减少TCP链接，v3客户端共享同一个tcp链接，进行了多路复用

  • 租约机制：v2自动过期机制基于TTL，租约可以共享

  • 观察者模式：v2是每个key都是一个长链接，v3是多个key使用一个长链接

  • 数据存储模型：v2默认只保存整个数据的1000个value的历史变更记录，v3引进了MVCC（多版本并发控制），保存了所有历史变更记录，v2将数据放在内存，v3将数据放在磁盘

  • 支持事务

  • 快照：一致性系统基于log的复制，v3对增量快照和快照传输做了优化，可以存贮百万级别的key

  • etcd v3 API不支持RESTful API

四、etcd集群

etcd集群里的数据更新操作都是先写到binlog日志里（wal日志），master节点通过Raft协议向slave复制binlog，slave根据binlog日志进行更新键值

1、升级到v3流程（滚动升级）

检查集群是否健康

etcdctl cluster-health

停止当前etcd进程，并备份

etcdctl backup --data-dir /var/lib/etcd --backup-dir /tmp/etcd_backup

启动新的版本，并依次处理其他节点，并查看健康状态etcdctl health

2、参数调优

（1）时间参数

​ 心跳间隔：主节点通知从节点的频率，应该设置成主机间1.5倍的最大RTT的时间，默认为100毫秒

​ 选举超时时间：从节点多久没有接收到主节点的心跳，就尝试竞争领导者，应设置为10倍的最大RTT时间，默认为1000毫秒，最大为50000毫秒

#启动参数
etcd --heartbeat-interval=100 --election-timeout=500
#环境变量
ETCD_HEARTBEAT_INTERVAL=100 ETCD_ELECTION_TIEOUT=500 etcd
（2） 快照

当修改积累到一定数量的时候才会创建快照，默认为10000

#启动参数
etcd	--snapshot-count=5000
#环境变量
ETCD_SNAPSHOT_COUNT=5000 etcd
（3）磁盘

为etcd赋予磁盘IO更高的优先值

best effort, highest priority
sudo ionice -c2 -n0 -p 'pgrep etcd'
（4）网络

通过tc来调整etcd的优先级

3、维护

（1）压缩历史版本

启动参数：–auto-compaction-retention=5,保留5个小时的历史版本

（2）消除碎片化

etcdctl defrag 清理etcd节点的存储碎片

（3）快照备份
#快照备份
etcdctl 	snapshot save backup.db
#查询快照信息
etcdctl --write-out=table snapshot status backup.db

4、灾难恢复

（1）快照
#先做快照 T指向的etcd数据保存到快照文件snapshot.db
ETCDCTL_APi=3 etcdctl --endpoints $ENDPOINT snapshot save snapshot.db
（2）恢复集群
etcdctl snapshot  restore snapshot.db \
--name hgq1 --initial0advertise-peer-urls http://10.0.1.10:2380 \
--listen--peer-urls http://10.0.1.10:2380 \
--listen--client-urls http://10.0.1.10:2379,http://127.0.0.1:2379 \
--advertise-client-urls http://10.0.1.10:2379 \
--initial-cluster-token hgq-test \
--initial-cluster hgq1=http://10.0.1.10:2380,hgq2=http://10.0.1.11:2380,hgq3=http://10.0.1.12:2380
Etcd深度解读——从核心特性到实战场景，引领数据一致性潮流
guting18893110463的博客
04-15 1006
Etcd，作为CoreOS团队研发的分布式键值存储系统，凭借其基于Raft一致性算法的强大内核，已在云计算、微服务、容器编排等众多领域树立了无可替代的地位。Etcd旨在提供可靠的数据存储与共享，确保在分布式环境中的数据强一致性，是构建高可用、强一致服务发现、配置管理、分布式锁等基础设施的理想选择。
etcd详解
m0_51586984的博客
06-25 4080
在做微服务集群开发时，有很多应用，有很多微服务上下游节点，它们本身需要很多存储配置文件，需要有一个地方来存储这些配置文件，因此诞生了etcd，它本质是为了微服务上下游服务去存储一些配置文件，在修改配置文件可以及时生效到上下游微服务，etcd主要功能：监听时，省去监听资源的消耗，让监听资源放到其他工作资源上。它本身监听一个对象，在对象发生改变的时候弹出这个对象的变化etcd其实是etc distribution (分布式数据库)数据的时效性监听机制操作简单安全快速可靠。
etcd如何实现高可用、数据强一致的？
最新发布
qq_33240556的博客
03-20 630
大家好，我是程序员贵哥（抖音号：1717983460）。在前面的etcd读写流程学习中，我和你多次提到了etcd是基于Raft协议实现高可用、数据强一致性的。那么etcd是如何基于Raft来实现高可用、数据强一致性的呢？这节课我们就以上一节中的hello写请求为案例，深入分析etcd在遇到Leader节点crash等异常后，Follower节点如何快速感知到异常，并高效选举出新的Leader，对外提供高可用服务的。
etcd具有以下特点
ahao214——Dreamspace
08-28 854
1、完全复制：集群中的每个节点都可以使用完整的存档 2、高可用性：Etcd可用于避免硬件的单点故障或网络问题 3、一致性：每次读取都会返回跨多主机的最新写入 4、简单：包括一个定义良好、面向用户的API（gRPC） 5、安全：实现了带有可选的客户端证书身份验证的自动化TLS 6、快速：每秒10000次写入的基准速度 7、可靠：使用Raft算法实现了强一致、高可用的服务存储目录 ...
gRPC+etcd的优势分析
aiji7208的博客
10-26 424
相比webService等可跨平台,跨语言的服务相比,gRPC更增加了以下优势 1.可以采用二进制传输,速度更快 (使用TCP传输层,而不是Http2应用层) 2.集群服务,统一注册,可靠性高( 好的服务自动注册,坏的服务自动删除) 3.服务版本管理,平稳升级不影响其他低级版本调用 4.proto文件比wsdl更友好,精简,通用 转载于:https://www.cnblogs...
etcd 笔记（01）— etcd 简介、特点、应用场景、常用术语
热门推荐
wohu1104的专栏
04-26 1万+
1. etcd 简介 etcd 官网定义： A highly-available key value store for shared configuration and service discovery. 即一个用于配置共享和服务发现的键值存储系统。 etcd 是一款分布式存储中间件，使用 Go 语言编写，并通过 Raft 一致性算法处理和确保分布式一致性，解决了分布式系统中数据一致性的问题。 而且作为一款分布式、可靠的键值存储组件，etcd 常用于微服务架构中的服务注册与发现中心，相较于 ZooK
云原生分布式存储基石 etcd深入解析
05-28
《云原生分布式存储基石 etcd深入解析》一书，主要关注的是云环境中重要的分布式键值存储系统——etcd。etcd是CoreOS公司开发的一个开源项目，它为分布式系统提供了一个高度可用、一致性的键值存储解决方案。在Java...
《云原生分布式存储基石 etcd深入解析》_杜军.zip
06-01
《云原生分布式存储基石 etcd 深入解析》一书由杜军撰写，主要聚焦于etcd这一关键的云原生技术。etcd是一个分布式的、高可用的键值存储系统，它在现代微服务架构和容器编排平台（如Kubernetes）中扮演着至关重要的...
云原生分布式存储基石:etcd深入解析 pdf 下载
07-29
云原生分布式存储基石:etcd深入解析是一本专门探讨etcd的书籍，对于想要深入了解etcd的人来说是一本非常重要和有价值的资料。 etcd是一个高可用、持久化的键值存储系统，它主要用于分布式系统中的数据共享和配置...
揭秘云原生基石: etcd深度解析与实战应用
《云原生分布式存储基石 etcd深入解析》一书由杜军撰写，针对的是云计算领域中的关键组件etcd。etcd最初在华为PaaS平台上扮演了分布式数据协同与更新观察的重要角色，推动了平台的扩展性、性能和稳定性。作者作为...
etcd-from-arch-to-souce-code:etcd架构以及源码解析-源码解析
03-24
直到最近，分布式系统，尤其是分布式存储变得越来越热，越来越重要，才静下心来，打算深入探究下etcd的内部细节。 糟糕的是这个过程并不顺利，本来想着可以通过阅读书籍的方式来理解，但找了很久，也没有找到一本...
ETCD 六 etcd总体架构
weixin_42017400的博客
02-26 1103
etcd 源码结构 etcd 项目代码的目录结构： 包名 用途 api
etcd 架构原理学习（来自etcd实战）
叮当猫的喵i
10-08 6762
参考 etcd 实战 极客时间 整体架构 基础模块介绍 client 层： 包含 client v2 和 v3 两个大版本 API 客户端 API 网络层： 主要包含 clent 访问 server 和 server 节点之间的通信协议 clent 访问 server 分为两个版本：v2 API 采用 HTTP/1.x 协议，v3 API 采用 gRPC 协议 server 之间的通信：是指节点间通过 Raft 算法实现数据复制和 Leader 选举等功能时使用的 HTTP 协议 Raft 算
ETCD的架构
认知 行动 坚持
05-29 539
etcd的架构主要分为4个部分 ❏ HTTP Server：用于处理用户发送的API请求以及其他etcd节点的同步与心跳信息请求。❏ Store：用于处理etcd支持的各类功能的事务，包括数据索引、节点状态变更、监控与反馈、事件处理与执行等。它是etcd对用户提供的大多数API功能的具体实现。 ❏ Raft:Raft强一致性算法的具体实现，是etcd的核心。 ❏ WAL：即Write Ahead Log（预写式日志），它是etcd的数据存储方式。除了在内存中存有所有数据的状态以及节点的索引以外，etcd还通
【万亿级数据实战】ETCD分片架构设计！手撕海量数据存储，性能直接拉满！
Memory_mumu的博客
03-19 521
分片按地域分布，减少网络延迟（如华东/华北/华南集群）：分片集群必选NVMe SSD，吞吐量提升10倍+：单分片内保证ACID，跨分片通过Saga模式补偿。：高频访问数据独立分片，低频数据归档至对象存储。：存储分片路由信息（分片ID → 集群地址）：非关键数据先写入本地队列，批量提交ETCD。：分片故障时自动切换至备用集群，保障可用性。：原生不支持自动分片，需手动设计分片策略。：新旧分片同时写入，校验一致性后切换流量。：先迁移1%数据，确认无误后全量迁移。：维护分片映射关系，实现透明化访问。
[Kubernetes] etcd 单机和集群部署
959
06-15 1394
etcd 单机和集群部署
etcd 一个分布式一致性键值存储系统
象牙塔下的渣渣
05-28 1095
etcd是一个分布式一致性键值存储系统，用于共享配置和服务发现，专注于： 简单:良好定义的，面向用户的API (gRPC) 安全： 带有可选客户端证书认证的自动TLS 快速:测试验证，每秒10000写入 可靠:使用Raft适当分布 etcd是Go编写，并使用Raft一致性算法来管理高可用复制日志： 单服务器版 下载安装 $ mkdir -p $GOPATH/src/git...
课时 16 深入理解 etcd：基于原理解析(曾凡松)
阿里巴巴云原生的博客
10-28 559
本文将主要分享以下三方面的内容： 第一部分，会为大家介绍 etcd 项目发展的整个历程，从诞生至今 etcd 经历的那些重要的时刻； 第二部分，会为大家介绍 etcd 的技术架构以及其内部的实现机制，通过对技术架构和内部机制的学习，帮助我们正确地使用 etcd； 第三部分，结合具体的使用场景，为大家介绍在分布式系统中 etcd 所扮演的角色。 etcd 项目的发展历程 etcd 诞生于 Cor...
谈谈 etcd 架构与设计
Docker的专栏
10-10 1743
etcd 有非常多的用户，全球有上万公司在用。但目前并没有文章在讲 etcd 的架构。一方面，业界中懂 etcd 的人都太忙了；另一方面，学术圈一般不会涉足这种应用。作者身处 CoreOS 虽地位卑微，但好在脸皮厚敢于胡说。这里写写自己对 etcd 架构疏浅的理解。尽己之力为这个领域贡献的同时望批评指教。 Chubby，Paxos Made Live Google 公布
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值