元数据服务器(MDS)在CephFS的正常操作期间会经历几个状态。例如,某些状态表示MDS正在从MDS的前一个实例的故障切换中恢复。在这里,我们将记录所有这些状态,并包括一个状态图来可视化转换。
状态描述
常见状态
状态 | 说明 |
---|---|
up:active | 这是MDS的正常运行状态。它表示MDS及其在文件系统中的rank可用。 |
up:standby | MDS可用于接管失效的rank(请参阅术语)。一旦可用,monitor将自动将处于此状态的MDS分配给失效的rank。 |
up:standby-replay | MDS正在跟随另一个up:active MDS的日志。如果活动MDS发生故障,则需要一个处于replay模式的备用MDS,因为MDS正在重放实时日志,并将更快地接管。拥有standby replay MDS的一个缺点是,它们不可用于任何其它出现故障的MDS,只能接管它们所跟随的MDS。 |
up:boot | 此状态在启动期间被广播到 Ceph monitors 。这种状态是不可见的,因为Monitor 立即将MDS分配给可用的rank或命令MDS作为备用运行。为了完整起见,这里记录了状态 |
up:creating | MDS通过构造一些每个rank的元数据(比如日志)并进入MDS集群来创建一个新的rank(可能是rank0)。 |
up:starting | MDS正在重启停止的rank。其打开关联的每个rank元数据并进入MDS集群。 |
up:stopping | 当rank停止时,monitors 命令主MDS进入up:stopping 状态。在这种状态下,MDS不接受新的客户端连接,将所有子树迁移到文件系统中的其他rank,刷新其元数据日志,如果是最后一个rank(0),则驱逐所有客户端并关闭(另请参阅CephFS管理命令)。 |
up:replay | MDS接管失效的rank。此状态表示MDS正在恢复其日志和其它元数据。日志恢复阶段,它将日志内容读入内存后,在内存中进行回放操作。 |
up:resolve | 如果Ceph文件系统有多个rank(包括这个),即它不是单活MDS集群,则MDS从up:replay 进入该状态。MDS正在解析未提交的MDS间操作。文件系统中的所有rank都必须处于此状态或之后才能进行处理,即没有rank可以失效/损坏或up:replay 。用于解决跨多个mds出现权威元数据分歧的场景,对于服务端包括子树分布、Anchor表更新等功能,客户端包括rename、unlink等操作。 |
up:reconnect | MDS从up:replay 或up:resolve 进入此状态。此状态用于请求客户端重新连接。任何具有此rank会话的客户端都必须在此期间重新连接,可通过mds_reconnect_timeout 进行配置。恢复的mds需要与之前的客户端重新建立连接,并且需要查询之前客户端发布的文件句柄,重新在mds的缓存中创建一致性功能和锁的状态。mds不会同步记录文件打开的信息,原因是需要避免在访问mds时产生多余的延迟,并且大多数文件是以只读方式打开。 |
up:rejoin | MDS从up:reconnect 进入该状态。此时MDS正在重新加入MDS集群缓存。特别是,重新建立元数据上的所有mds间锁。如果没有要replay的已知客户端请求,则MDS直接从此状态变为up:active 。 |
up:clientreplay | .MDS可能从up:rejoin 进入该状态。MDS正在重放已回复但尚未持久(未记录)的任何客户端请求。客户端在up:reconnect 期间重发这些请求,请求再次被重放。重放完成后,MDS进入up:active 状态。 |
down:failed | 没有MDS实际保持这种状态。相反,它应用于文件系统中的rank。 |
down:damaged | 没有MDS实际保持这种状态。相反,它应用于文件系统中的rank。 |
down:stopped | 没有MDS实际保持这种状态。相反,它应用于文件系统中的rank。 |
主备切换流程
- handle_mds_map state change
up:boot
-->up:replay
- handle_mds_map state change
up:replay
-->up:reconnect
- handle_mds_map state change
up:reconnect
-->up:rejoin
- handle_mds_map state change
up:rejoin
–>up:active
状态图
这个状态图显示了MDS/rank可能的状态转换。传说如下:
颜色
- 绿色: MDS是活跃的.
- 橙色: MDS处于过渡临时状态,试图变得活跃.
- 红色: MDS指示一个状态,该状态导致被标记为失败.
- 紫色: MDS和rank为停止.
- 红色: MDS指示一个状态,该状态导致被标记为损坏.
形状
- 圆圈:MDS保持这种状态.
- 六边形:没有MDS保持这个状态.
线条
- 双线形状表示rank为“in”。
参考:
https://github.com/ceph/ceph/blob/master/doc/cephfs/mds-states.rst