hdfs balance出现because threads quota is exceeded., reportedBlock move is failed

12 篇文章 0 订阅
5 篇文章 0 订阅

在hdfs做集群balance时,可能会看到类似于如下WARN信息

23/03/23 10:01:42 WARN balancer.Dispatcher: Failed to move blk_1082562934_8824015 with size=12571895 from 10.10.10.10:1019:DISK to 10.10.10.10:1019:DISK through 10.10.10.10:1019
java.io.IOException: Got error, status=ERROR, status message Not able to receive block 1082562934 from /10.10.10.10:43716 because threads quota is exceeded., reportedBlock move is failed
        at org.apache.hadoop.hdfs.protocol.datatransfer.DataTransferProtoUtil.checkBlockOpStatus(DataTransferProtoUtil.java:128)
        at org.apache.hadoop.hdfs.server.balancer.Dispatcher$PendingMove.receiveResponse(Dispatcher.java:462)
        at org.apache.hadoop.hdfs.server.balancer.Dispatcher$PendingMove.dispatch(Dispatcher.java:393)
        at org.apache.hadoop.hdfs.server.balancer.Dispatcher$PendingMove.access$3100(Dispatcher.java:235)
        at org.apache.hadoop.hdfs.server.balancer.Dispatcher$1.run(Dispatcher.java:1146)
        at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
        at java.lang.Thread.run(Thread.java:748)

原因是banlance的并行线程满了

可参考参数dfs.datanode.balance.max.concurrent.moves
默认是100
(解释为:Maximum number of threads for Datanode balancer pending moves. This value is reconfigurable via the “dfsadmin -reconfig” command)
在这里插入图片描述
在这里插入图片描述

这个不会影响正常balance,可以不用理会。

如果要解决

hdfs中修改这个参数,重启生效

参考资料
https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值