HDFS参数调优

  • 情景描述:开启Hadoop时候DN要向NN注册,那么NN开启多少个接客线程比较合适?
  • NameNode有一个工作线程池,用来处理不同DataNode的并发心跳以及客户端并发的元数据操作,对于打击群或者有大量客户端的集群来说,通常需要增大参数
  • dfs.namenode.handler.count的默认值是10
  • 有一个公式用来计算开启多少工作线程
dfs.namenode.handler.count=20 * log以e为底 集群台数

在这里插入图片描述

  • e.g.比如集群规模为8台,此参数设置为41,可以通过简单的python代码计算,代码如下:
import math
print int(20*math.log(8))
  • 这个参数在hdfs-site.xml里面设置
<property>
	<name>dfs.namenode.handler.count</name>
	<value>10</value>
</property>
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值