Hadoop集群HDFS各节点磁盘使用率不平衡,使用balancer做数据平衡

HDFS上各节点磁盘大小不一致,新增节点
数据平衡前,是非常不均衡的,某些节点已经接近90了
集群的数据平衡已经迫在眉睫,必须要搞一搞了。
在这里插入图片描述

1.设置传输速率

我这里是万兆网卡,就先设置100M了
两台master上分别执行:

hdfs dfsadmin -fs hdfs://nn1:8020 -setBalancerBandwidth 100M

2.找一台空闲集器,开始平衡数据

#设置数据之间差值5%
nohup $HADOOP_HOME/sbin/start-balancer.sh -threshold 5 >

#停止数据均衡
$HADOOP_HOME/sbin/stop-balancer.sh

3.每天零点定时执行

crontab -e

10 */24 * * * bash $HADOOP_HOME/sbin/start-balancer.sh -threshold 5

# 上面为了方便写的 $HADOOP_HOME  ,自己去设置时要使用具体的目录,要不然crontab会读不到环境变量的,导致失效。
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值