ceph之rados设计原理与实现第二章:计算寻址之美与数据平衡之殇crush

执行命令

ceph osd crush dump

可以查看当前集群crush map信息
其中会输出可调crush参数"tunables"、规定的若干规则"rules"、以及"cluster map"。

1. rules

“rules”,可以有多条,这些规则"rules"可以与存储池绑定,针对特定存储池执行自制的crush算法映射、以及决定本crush规则包含哪些osd。
书中一个简单的rule实例如下:

#rules
rule rule_name{
	ruleset 0
	type replicated
	min_size 1
	max_size 10
	step take root
	step chooseleaf firstn 0 type host
	step emit
}

2. cluster map

“cluster map”,存在唯一,包含了数据中心、机架、主机、osd等整个拓扑结构,除了osd都是虚拟的,并且记录了每个osd的weight和reweight,weight和reweight直接影响了随机哈希算法结果,但是由于crush是随机的,所以调整weight、reweight并不能精确控制pg在osd上的分布。

3. tunables

“tunables”,大多数参数都不建议调整,如果选不出足够的样本数,那么应该调大全局重试次数,但显然这会增加crush重试次数从而增加crush计算时间。
以上针对crush可以的参数调整,都会导致pg在osd迁移已达到数据分布均衡,但是为了在线平衡不影响业务的性能,每次调整都应该先模拟测试效果,并且做到多次微调。

4. 针对crush的调参优化ceph

调整crush只有两个目标,一个是增加crush计算效率,另一个就是数据负载均衡。针对数据重平衡,ceph有reweight、weight-set、umap、balancer。balancer依赖前三种工具,计算osd空间利用率的方差构建评分系统,既可以针对整个集群也可以针对存储池独占的osd,实现自动的评估系统评分,然后决定什么时候调整以及调整多少合适,从而代替了人工实现了自动化。因为针对上述参数的调整都是需要人工干预,都是多次微调实际非常麻烦,并且实际生产环境ceph扩容或者故障导致的pg自动迁移非常频繁,每次pg迁移后之前的调整都付之东流,因此自动化调整应运而生。

仍在学习,未完待续…

  • 11
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Ceph是一个分布式存储系统,其设计原理实现可以从以下几个方面来理解。 首先,Ceph存储集群接收来自Ceph客户端的数据,并将其存储为对象。每个对象都是文件系统中的一个文件,存储在对象存储设备上。这些存储设备上的读/写操作由Ceph OSD守护进程处理。\[2\] 其次,Ceph消除了集中网关,允许客户端直接与Ceph OSD守护进程通信。Ceph OSD守护进程会自动在其他Ceph节点上创建对象副本,以确保数据的安全性和高可用性。为了实现高可用性,监视器也实现了集群化。此外,为了消除中心节点,Ceph使用了CRUSH算法。\[3\] 总的来说,Ceph设计原理实现旨在实现分布式存储的高可用性和数据安全性。通过将数据存储为对象,并在多个节点上创建对象副本,Ceph确保了数据的冗余和可靠性。同时,通过消除集中网关和使用CRUSH算法,Ceph实现了分布式存储的高性能和可扩展性。\[2\]\[3\] #### 引用[.reference_title] - *1* [Ceph分布式存储系列(一):Ceph工作原理及架构浅析梳理](https://blog.csdn.net/weixin_43860781/article/details/109053152)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [Ceph 入门系列(三):Ceph 的工作原理及流程](https://blog.csdn.net/li4528503/article/details/106256178)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值