CDH中HDFS多节点磁盘大小不统一问题

博客讲述了在CDH集群中,由于HDFS节点磁盘大小不一致导致的问题,如小容量节点先满载,进而影响系统运行。作者建议通过配置HDFS的非DFS保留空间来解决这个问题,确保HDFS剩余可用空间小于系统可用空间,并给出了配置和验证的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

开发中遇到集群节点的磁盘空间大小差距比较大,2T到20T不等。

由于HDFS的存储机制,数据是分布式均匀存储到节点上,所以会导致空间小的节点先存储满,进一步导致该节点没有多余空间存储各种运行文件而崩溃。

运行df -h指令查看节点磁盘使用情况

Filesystem                          Size  Used Avail Use% Mounted on

/dev/mapper/vg_lv_root  345G  214G  114G  66% /

总大小为345G,剩余可用为114G

运行hdfs dfsadmin -report指令查看节点hdfs使用情况

Configured Capacity: 364628604928 (339.59 GB)
DFS Used: 214173401155 (199.46 GB)
Non DFS Used: 9903613885 (9.22 GB)
DFS Remaining: 121362387193 (113.03 GB)
DFS Used%: 58.74%

DFS Remaining%: 33.28%

剩余可用只有113G,预留给系统的空间只有1G不到,有时剩余可用甚至大于实际系统可用

这种情况下就要保证HDFS的剩余可用小于系统剩余可用

HDFS中有针对非DFS保留

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值