HDFS对象存储:Ozone的块异步删除服务

本文介绍了HDFS对象存储Ozone的块删除服务,包括涉及的服务(KSM、SCM和DataNode)及其职责。KSM负责元数据更新和与SCM通信,SCM协调KSM和DataNode,而DataNode执行实际的删除操作。删除过程包括KSM的逻辑删除、SCM的持久化和DataNode的异步物理删除。整个流程涉及多次数据库更新和信息交互。
摘要由CSDN通过智能技术生成

前言


在HDFS的世界中,所有涉及元数据相关的操作都是在NameNode内完成的,真实进行文件读写和删除操作是在DataNode节点上完成的,完成好之后,再通过心跳的方式将结果汇报给NameNode。这种处理方式要比完全同步的方式好很多,尤其高吞吐数据量规模的情况下时,走同步的方式会很快遇到瓶颈的。当然了,HDFS NameNode这套机制相关文章已经写了很多了,本文笔者来介绍一个比较新的服务设计:HDFS对象存储的Ozone的块删除服务。Ozone在块删除服务的设计上要比现有的NameNode的块删除操作要复杂一些,因为它所涉及的不同服务之间的调用会更多一些。

Ozone块删除操作的相关服务


首先,我们先要知道Ozone的块删除操作,会涉及到哪些服务的操作调用,这个如果不清楚,后面就会比较难理解(这里提醒一下博友们,HDFS Ozone会要求比较多的上下文知识,如果不了解的可以阅读笔者之前写的Ozone相关的文章)。下面是相关的服务:

第一个KSM(Key Space Manager)服务,Ozone的KSM可以理解为HDFS中的NameNode,作为元数据的管理服务。在块删除服务内,它所要做的事情主要有2个:1.进行元数据的更新;2.与SCM服务通信,将要删除的块通知给SCM。

第二个SCM(Storage Container Manager)服务,SCM是一个中间人的角色,它会同时于KSM和DataNode进行通信。SCM在这里要做的事情是拿到KSM里要删除的块,并从自己维护的container信息里找到删除块对应所属的contain容器&

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值