ETCD数据备份以及参数优化

最新推荐文章于 2024-09-03 15:57:14 发布
最新推荐文章于 2024-09-03 15:57:14 发布
阅读量823 收藏 1
点赞数 2
分类专栏： kubernetes 文章标签： kubernetes linux etcd
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_50589374/article/details/125973676
版权

介绍：

ETCD是CoreOS团队2013年6月发起的开源项目，已为CNCF的毕业项目，是一款高可用的键值数据库。采用raft协议作为一致性算法，基于go语言实现。以下基于V3.5的介绍。
其特点有：

  • 简单性：使用标准HTTP工具（如curl）读取和写入值
  • 观测性：可持续watch key的变化，做出相应的响应
  • 高可用：分布式集群，解决单点故障
  • 完全复制：每个节点都是一份完整的的存档
  • 安全：带有客户端验证的TLS
  • 一致性：每次读取都会返回垮多主机的最新写入

背景：

ETCD作为kubernetes集群后端存储的分布式键值数据库，保存整个集群的状态信息，因此，对应etcd的备份和优化显得至关重要。

参数优化：

配置文件详解

vim /etc/systemd/system/etcd.service

[Unit]
Description=Etcd Server
After=network.target
After=network-online.target
Wants=network-online.target
Documentation=https://github.com/coreos

[Service]
Type=notify
WorkingDirectory=/var/lib/etcd #数据存放目录
ExecStart=/opt/kube/bin/etcd \ ##二进制执行路径
  --name=etcd-192.168.2.131 \
  --cert-file=/etc/kubernetes/ssl/etcd.pem \
  --key-file=/etc/kubernetes/ssl/etcd-key.pem \
  --peer-cert-file=/etc/kubernetes/ssl/etcd.pem \
  --peer-key-file=/etc/kubernetes/ssl/etcd-key.pem \
  --trusted-ca-file=/etc/kubernetes/ssl/ca.pem \
  --peer-trusted-ca-file=/etc/kubernetes/ssl/ca.pem \
  --initial-advertise-peer-urls=https://192.168.2.131:2380 \ #广播自身的服务端口
  --listen-peer-urls=https://192.168.2.131:2380 \ #集群通讯端口
  --listen-client-urls=https://192.168.2.131:2379,http://127.0.0.1:2379 \ #客户端访问地址
  --advertise-client-urls=https://192.168.2.131:2379 \ #广播客户端地址
  --initial-cluster-token=etcd-cluster-0 \ #集群token
  --initial-cluster=etcd-192.168.2.131=https://192.168.2.131:2380,etcd-192.168.2.132=https://192.168.2.132:2380,etcd-192.168.2.133=https://192.168.2.133:2380 \ #集群所有节点地址信息
  --initial-cluster-state=new \ #新建集群为new,已存在的为existing
  --data-dir=/var/lib/etcd \ #数据存放路径
  --wal-dir= \ #快照日志路径
  --snapshot-count=50000 \ #最大快照次数，指定有多少事务被提交时，触发截取快照保存到磁盘，释放wal日志，默认值100000
  --auto-compaction-retention=1 \  #首次压缩周期为1小时，后续压缩周期为当前值的10%，也就是每隔6分钟压缩一次
  --auto-compaction-mode=periodic \ #周期性压缩
  --max-request-bytes=10485760 \ #请求的最大字节数，默认一个key为1.5M,官方推荐最大为10M
  --quota-backend-bytes=8589934592 #磁盘存储空间大小限制，默认为2G,超过8G会有告警信息
Restart=always
RestartSec=15
LimitNOFILE=65536
OOMScoreAdjust=-999

[Install]
WantedBy=multi-user.target

参数优化项

了解了上面提到的参数含义，接下来就可以做优化了

  1. max-request-bytes=10485760 ；请求的最大字节数，默认一个key为1.5M,官方推荐最大为10M。避免出现请求过大导致无法写入的情况
  2. –quota-backend-bytes=8589934592 ；磁盘存储空间大小限制，默认为2G,超过8G会有告警信息，按照默认值，当存储空间达到2G后，会报存储空间已满，无法写入的告警
  3. 集群碎片整理，进行压缩操作之后，旧的revision被清理，会产生内部的碎片，内部碎片是指空闲状态的，能被etcd使用但是仍然消耗存储空间的磁盘空间，去碎片化实际上是释放磁盘空间。
    注意：碎片整理会阻塞对etcd的读写操作，大量数据的defrag建议逐台进行，以免影响集群稳定性，一般在业务低峰期执行此操作
etcdctl defrag endpoint #本机碎片整理
etcdctl defrag  --endpoints=https://192.168.2.132:2379 --cacert=/etc/kubernetes/ssl/ca.pem --cert=/etc/kubernetes/ssl/etcd.pem --key=/etc/kubernetes/ssl/etcd-key.pem #指定节点碎片处理
etcdctl defrag --cluster --endpoints=https://192.168.2.131:2379 --cacert=/etc/kubernetes/ssl/ca.pem --cert=/etc/kubernetes/ssl/etcd.pem --key=/etc/kubernetes/ssl/etcd-key.pem  #集群碎片处理

在这里插入图片描述

备份恢复

WAL是write ahead log(预写日志)的缩写，顾名思义，就是在执行真正的写操作之前先写一个日志，预写日志。
wal: 存放预写式日志,最大的作用是记录了整个数据变化的全部历程。在etcd中，所有数据的修改在提交前，都要先写入到WAL中。

V3版本数据备份

etcdctl snapshot save /data/backup/snapshot.db 
ezctl backup ClusterName #使用kubeasz安装的集群可以使用此命令做备份，参照：https://github.com/easzlab/kubeasz/blob/master/docs/op/cluster_restore.md

V3版本数据恢复

etcdctl snapshot  restore /data/backup/snapshot.db   --data-dir=/app/etcd-dir  #将数据恢复到一个新创建的目录中
ezctl restore ClusterName #使用kubeasz安装的集群可以使用此命令做恢复，恢复期间会停止停止kube-apiserver/controller-manager/scheduler/kubelet/kube-proxy服务

状态查看

export NODE_IPS="192.168.2.131 192.168.2.132 192.168.2.133"
root@ubuntu01:/app/etcd-dir# for ip in ${NODE_IPS}; do etcdctl --endpoints=https://${ip}:2379 --cacert=/etc/kubernetes/ssl/ca.pem --cert=/etc/kubernetes/ssl/etcd.pem --key=/etc/kubernetes/ssl/etcd-key.pem endpoint health; done
https://192.168.2.131:2379 is healthy: successfully committed proposal: took = 10.651582ms
https://192.168.2.132:2379 is healthy: successfully committed proposal: took = 74.296019ms
https://192.168.2.133:2379 is healthy: successfully committed proposal: took = 14.587119ms

节点详细信息查看：

root@ubuntu01:/app/etcd-dir/member# for ip in ${NODE_IPS}; do etcdctl --write-out=table endpoint status --endpoints=https://${ip}:2379 --cacert=/etc/kubernetes/ssl/ca.pem --cert=/etc/kubernetes/ssl/etcd.pem --key=/etc/kubernetes/ssl/etcd-key.pem; done
+----------------------------+-----------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
|          ENDPOINT          |       ID        | VERSION | DB SIZE | IS LEADER | IS LEARNER | RAFT TERM | RAFT INDEX | RAFT APPLIED INDEX | ERRORS |
+----------------------------+-----------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
| https://192.168.2.131:2379 | 2afd23759ae3787 |   3.5.4 |  1.8 MB |     false |      false |        48 |      64986 |              64986 |        |
+----------------------------+-----------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
+----------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
|          ENDPOINT          |        ID        | VERSION | DB SIZE | IS LEADER | IS LEARNER | RAFT TERM | RAFT INDEX | RAFT APPLIED INDEX | ERRORS |
+----------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
| https://192.168.2.132:2379 | feb3bcf2733c5b7a |   3.5.4 |  1.8 MB |     false |      false |        48 |      64986 |              64986 |        |
+----------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
+----------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
|          ENDPOINT          |        ID        | VERSION | DB SIZE | IS LEADER | IS LEARNER | RAFT TERM | RAFT INDEX | RAFT APPLIED INDEX | ERRORS |
+----------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
| https://192.168.2.133:2379 | 2d06aa5780fbce84 |   3.5.4 |  1.8 MB |      true |      false |        48 |      64986 |              64986 |        |
+----------------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
zhangjwnx
关注
专栏目录
Kubernetes实战（三十三）-外部Etcd集群部署与调优（更安全的数据存储策略）
专注基础架构领域
11-06 597
Etcd集群作为kubernetes集群的大脑，重要性不言而喻，但我好像没有对etcd集群做过一个全方面的总结，部署手法也只是单调的使用ansible快速部署，很多细节并没有说清楚，并且对于etcd集群部署后的性能调优也没有过多的提及。因此，本文将对etcd集群的由来，etcd集群的特点，etcd集群的部署手法，etcd应该注意的调优方案这些做一个全面的总结。
etcd 性能测试与调优
云原生实验室
10-10 9891
原文链接：https://www.jianshu.com/p/f31ef5e7bdd0etcd 是一个分布式一致性键值存储。其主要功能有服务注册与发现、消息发布与订阅、负...
etcd优化
qq_27293947的博客
04-24 358
优化心跳时间和选举时间（用于延迟高IO慢的时候） # 默认心跳超时为100ms 选举超时未500ms # Command line arguments: $ etcd --heartbeat-interval=100 --election-timeout=500 # Environment variables: $ ETCD_HEARTBEAT_INTERVAL=100 ETCD_ELECTIO...
etcdctl defrag & 剔除、添加etcd节点
最新发布
喝醉酒的小白
09-03 728
initial-cluster-state=new # 以新建etcd集群的方式启动etcd。
Etcd 优化实践！增加 30% 的写入性能
民工哥的博客
07-23 109
戳下方名片，关注并星标！回复“1024”获取2TB学习资源！????体系化学习：运维工程师打怪升级进阶之路 4.0— 特色专栏—MySQL/PostgreSQL/MongoDBElasticSearch/Hadoop/RedisKubernetes/Docker/DevOpsKafka/RabbitMQ/Zookeeper监控平台/应用与服务/集群管理N...
Etcd 高可用集群与性能优化
小楼一夜听春雨，深巷明朝卖杏花
07-08 2387
谈到生产系统etcd高可用集群一般有几类，第一类为kubeadm搭建的K8s集群，这种的etcd我们通常通过kubelet扫描本地目录，这个本地目录我们可以将etcd的pod放进去，kubelet扫描到etcd的pod清单，然后它就会去启动etcd的pod，这个就是K8s控制平面怎么拉起自己的etcd。有些时候我们可能使用另外的方式去搭建etcd集群，etcd-operator是基于k8s crd完成etcd的集群配置。 operator本身其实就是crd和controller的组合，所以etcd oper
k8s-网络概念和etcd优化
因上努力，果上随缘。但行好事，莫问前程。
04-29 1180
第十三章、Kubernetes网络概念及策略控制 13.1、Kubernetes基本网络模型 kubernetes网段：service网段、pod网段、node网段 13.1.1、k8s网络基本法则：约法三章 + 四大目标 1）Kubernetes对于Pod间的网络没有任何限制，只需满足如下【三个基本条件】： 任意两个Pod 之间是可以直接通信的，无需经过显式地使用 NAT； node 与 pod 之间是可以直接通信的，无需显式地址转换； pod 可见的 IP 地址与其他Pod与其通信时使
k8s 二进制安装 etcd 3.5.1
03-21
3. **恢复操作**：若发生故障，可以使用备份的快照文件恢复etcd数据。 ### 五、监控与维护 1. **监控**：利用Prometheus和Grafana等工具监控etcd的性能指标，如CPU使用率、内存消耗、请求延迟等。 2. **日志**：...
etcd安装包etcdlinux
05-13
在运行etcd之前，需要配置etcd的运行参数，如监听地址、初始集群配置等。通常创建一个配置文件，例如`/etc/etcd/etcd.conf`。 5. **启动etcd** 使用命令启动etcd服务： ``` etcd --config-file=/etc/etcd/etcd....
etcd3.2.10版本
12-08
**etcd v3.2.10： Kubernetes集群的基础组件** `etcd`，全称为“Eventual Consistent Distributed Key-Value Store”，是...记住，维护etcd的健康至关重要，定期备份数据、监控性能和日志，以确保集群的稳定运行。
性能调优之 ETCD
任我行的博客
04-17 926
请注意，大多数云服务器或者云存储提供并发 IOPS 而不是顺序 IOPS，提供的并发 IOPS 可能比顺序 IOPS 大 10 倍。为了测量实际的顺序 IOPS，建议使用磁盘基准测试工具，如。其中 nice 值可以由用户指定，默认值为 0，root 用户的取值范围是[-20, 19]，普通用户的值取值范围是[0, 19]，数字越小，CPU 执行优先级越高。: 因为主机重启或者容器重启后，容器中进程的 PID 会发生变化，所以建议把以上命令放在系统的启动脚本中（比如 Ubuntu 的。
一文深入浅出 ETCD
Larry的博客
07-23 2669
etcd是CoreOS团队于2013年6月发起的开源项目，它的目标是构建一个高可用的分布式键值(key-value)数据库。etcd内部采用raft协议作为一致性算法，etcd基于Go语言实现。
ETCD（二）配置文件说明
weixin_44477424的博客
04-20 682
从配置文件参数了解ETCD的一些特性。
Etcd数据恢复机制
m0_47495420的博客
06-17 1609
WAL简介使用过存储软件的都知道，为了应对写入性能和灾难恢复，各个存储软件都有相关的机制来保障， 比如：mysql的redo log 和undo logzookeeper的事务日志etcd的wal日志等等，那为啥都需要额外写入这样一种日志呢？因为离散写的场景下会造成过多的随机写，更合理的方式是顺序 io 写到一个日志文件里，然后等待时机把数据进行合并后变更数据文件，这个日志就是 wal ( wri...
Etcd介绍
zyy247796143的博客
06-10 1516
Etcd 是 CoreOS 基于 Raft 开发的分布式 key-value 存储，可用于服务发现、共享配置以及一致性保障（如数据库选主、分布式锁等）。安全性是用于保证每个节点都执行相同序列的安全机制，如当某个 Follower 在当前 Leader commit Log 时变得不可用了，稍后可能该 Follower 又会被选举为 Leader，这时新 Leader 可能会用新的 Log 覆盖先前已 committed 的 Log，这就是导致节点执行不同序列；Safety 就是用于保证选举出来的 Leade
Etcd 常用命令与备份恢复
专注基础架构领域
11-06 699
etcd启动基本就是靠传参的方式[Unit][Service]--name=etcd-10.31.200.105 \ # 节点名称，这个每个节点都必须不同，因为是基于这个节点名称来识别节点的。# 这里注意，签发给etcd的证书，都是绑定了节点的IP的，如果涉及到etcd节点的替换，那么IP地址一定要和原节点的IP一样才行。--cert-file=/etc/kubernetes/ssl/etcd.pem \ # 公钥。
Etcd 压缩清理和备份恢复——筑梦之路
筑梦之路
01-06 1499
ETCD 压缩清理 #使用API3 export ETCDCTL_API=3 # 查看告警信息，告警信息一般 memberID:8630161756594109333 alarm:NOSPACE etcdctl --endpoints=http://127.0.0.1:2379 alarm list # 获取当前版本 rev=$(etcdctl --endpoints=http://127.0.0.1:2379 endpoint status --write-out="json" | egrep -o.
etcd数据备份数据恢复数据压缩碎片整理
liao__ran的博客
01-16 678
etcd 数据备份，使用备份数据进行数据库重构，数据压缩，碎片整理
etcd集群备份与恢复策略详解
可以使用加密技术保护备份数据，同时通过校验和验证备份文件的完整性。此外，备份策略应考虑到网络和硬件故障，采用多副本策略或者跨地域备份来提高数据冗余和容灾能力。 #### 5. 监控与报警 除了定期备份，还应...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值