Federation 简介

本文探讨了HDFS的局限性,特别是由于其单一活动namenode导致的问题,并介绍了FederationHDFS如何通过引入多个独立的命名空间来解决这些问题。这种设计允许每个命名空间使用自己的blockPool,从而增强了系统的灵活性和扩展性。
摘要由CSDN通过智能技术生成

 

HDFS的局限性(HDFS只有一个active的namenode):

1. 在name中存储所有的元数据(metadata),因此单个namenode所能存储的对象(块+文件)数据受到namenode所在JVM的heap size的限制。

2. 整个HDFS文件系统的吞吐量受限于单个namenode的吞吐量

3. 无法隔离namespace

 

Federation HDFS 与 HDFS的区别

HDFS只有一个name space, 它使用全部的块。 而Federation HDFS 中有多个独立的namespace,每个命名空间使用一个block Pool

Bolck Pool : 维护单个命名空间的所有block。Data node是一个物理概念,而block pool是一个重新将block划分的逻辑概念。同一个DataNode可以存储 着属于多个blocknode的多个块。block允许一个命名空间在不通知其它命名空间的情况下为一个新的block创建blockID。同时,一个namenode失效不会影响旗下的DataNode为其它namenode服务。

 

Federation HDFS 架构图



 

 

 Federation HDFS HA架构图


 其中 NN1 NN3 属于同一个namenode, NN2 NN4 属于同一个namenode

 

 

参考:

http://www.jikexueyuan.com/course/2570.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值