在做集群进行规划的时候,机架设置不合理,有的机架只有2台机器,有的机架1台机器,还有的机架10台,甚至20+以上机器,每个机架上面的机器数量严重不均衡,导致hdfs的datanode数据分布不均衡,在某些节点上磁盘使用率很高,甚至到100%,而其他节点却很空闲。
如何定位是否是机架设置不合理导致datanode数据不均衡方法?
1、从Namenode主节点上,通过url进入原生界面查看“datanodes”页面,查看哪些datanode磁盘使用率高(可以进行升序或降序排序)。
2、查看主机管理页面,确认各datanode节点机架信息。如果各机架中,datanode节点数量差距大,即可能导致数据不均衡,如20个节点在相同机架,其他6个节点分别在不同机架(假设集群datanode节点数为26个),会导致节点间磁盘使用率不均匀。
机架设置不合理解决办法:
重新设置机架,使各机架datanode节点数据尽量均衡,设置机架,可以根据物理机架来进行分配,也可以通过设置逻辑机架来进行调配。
机架设置注意事项:
1、机架名称需遵循实际网络拓扑结构,以层级形式表示;各层级间以斜线“/”隔开,机架命名规则为:“/level1/level2/…”,级别至少为一级,名称不能为空。机架名称由字母、数字及下划线“_”组成,且总长度不超过200个字符。
例如:/Fs_203/rack0。
2、请确保所有DataNode实例所在主机的机架名称的层级一致。否则,会导