Federation的使用场景

 

使用场景

扩展性

HDFS运行时将元数据存储在NameNode内存中,记录了每个文件对象内容(名称、权限、属组等)。NameNode内存使用量和文件个数相关,NameNode的内存的限制将制约文件存储数量。过大内存同时会导致以下问题:

  • 启动花费的时间太长。
  • Namenode在Full GC时,对外部应用的响应会产生延迟,如果发生错误将会导致整个集群不可用。
  • 对于大JVM Heap进行调试比较困难,优化NameNode内存的性价比低。

Federation中每对NameNode分管一部分目录,使得一个集群可以扩展到更多NameNode节点,总体能够支持更多的文件存储。

性能瓶颈

随着业务的发展,集群规模接近2000台,NameNode响应的RPC QPS也在逐渐提高。越来越高并发的读写,与NameNode的粗粒度元数据锁,使NameNode RPC响应延迟和平均RPC队列长度也在慢慢提高。由于是单个NameNode的HDFS架构,因此整个HDFS文件系统的吞吐量受限于单个NameNode的吞吐量。

Federation中HDFS读写的时候,多对NameNode管理不同的数据,且同时对外提供服务,将为用户提供更高的读写吞吐率。

隔离问题

非Federation场景下,单对NameNode负载过高的应用,会影响到整个集群的服务能力。

采用Federation后,用户可根据需要将不同业务数据交由不同Namespace管理,这样不同业务之间影响很小。

集群的可用性

非Federation场景下,一对NameNode故障会导致整个Hadoop集群不可用

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值