ceph配置中的osd_crush_update_on_start如何在osd重启时影响osd在crush中分布

在自定义crush map的时候,发现掉电的osd,通过service ceph-osd@{osd.id} start重启后 osd回到了默认的host节点下,而不是自己定制后的节点,通过跟踪实现,发现了问题:

osdceph集群的默认配置

下图为我们测试环境中的osd tree,这是我们自己定制的一个osdmap,当然我们希望在osd掉线重启或者主机异常断点重启后所有的osd都能回到他应该在的位置上,但在我们使用ceph-deploy去搭建一个集群的时候这个想法并不能如我们所愿

下面我们停止一个osd,osd.5

接下来我们将这个osd.5重启,再看看osd.5的位置,这时候他回到了osd所在主机的主机名下的原默认位置


我们知道,我们的系统重启后linux都会通过系统服务管理模块来启动我们的服务,下面我们来尝试从linux的系统服务管理--service(systemctl)来找到我们osd重启后加入到主机的hostname位置的原因:

首先我们找到ceph-osd的service配置文件

注意上图中红框中的内容,这个配置决定了osd在启动之前会执行什么样的操作,我们手动的执行试试,现在我们先把osd.5放入到正确的位置:

然后手动执行:/usr/lib/ceph/ceph-osd-prestart.sh --cluster=ceph --id 5
看下图效果:

我们可以发现,osd.5的位置又回到了他的默认位置,我们从官网的手册可以看出,如果我们需要自己管理crush location我们需要设置osd crush update on start = false ,不然的话---“Ceph automatically sets a ceph-osd daemon’s location to be root=default host=HOSTNAME (based on the output from hostname -s)”
我们将此设置放入配置文件

我们将osd.5放到正确位置后,在做尝试:

我们看到配置了osd crush update on start = false,osd的重启确实能够回到他该回的位置。
现在我们来看看ceph怎么实现读取这个配置的,我们查看/usr/lib/ceph/ceph-osd-prestart.sh的实现

我们上图看到脚本是通过ceph-conf去获取osd crush update on start在ceph.conf文件中的配置;如果配置是true,那么则会调用/usr/bin/ceph-crush-location命令获取osd的位置

而ceph-crush-location命令又回调用ceph-conf去到ceph-conf中去寻找crush_location/osd_crush_location字段的值,在没有找到的情况下默认返回"host=$(hostname -s) root=default"导致了我们osd回到了默认位置而不是正确位置。


那么,我们解决这个问题有两种:
1.ceph.conf中加入osd crush update on start = false
2.根据官网设置自定义位置挂钩



  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
提供的源码资源涵盖了Java应用等多个领域,每个领域都包含了丰富的实例和项目。这些源码都是基于各自平台的最新技术和标准编写,确保了在对应环境下能够无缝运行。同,源码配备了详细的注释和文档,帮助用户快速理解代码结构和实现逻辑。 适用人群: 适合毕业设计、课程设计作业。这些源码资源特别适合大学生群体。无论你是计算机相关专业的学生,还是对其他领域编程感兴趣的学生,这些资源都能为你提供宝贵的学习和实践机会。通过学习和运行这些源码,你可以掌握各平台开发的基础知识,提升编程能力和项目实战经验。 使用场景及目标: 在学习阶段,你可以利用这些源码资源进行课程实践、课外项目或毕业设计。通过分析和运行源码,你将深入了解各平台开发的技术细节和最佳实践,逐步培养起自己的项目开发和问题解决能力。此外,在求职或创业过程,具备跨平台开发能力的大学生将更具竞争力。 其他说明: 为了确保源码资源的可运行性和易用性,特别注意了以下几点:首先,每份源码都提供了详细的运行环境和依赖说明,确保用户能够轻松搭建起开发环境;其次,源码的注释和文档都非常完善,方便用户快速上手和理解代码;最后,我会定期更新这些源码资源,以适应各平台技术的最新发展和市场需求。 所有源码均经过严格测试,可以直接运行,可以放心下载使用。有任何使用问题欢迎随与博主沟通,第一间进行解答!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值