1.报错现象
群集中有 66 个 丢失块 块。群集中共有 167,804 个块。百分比 丢失块: 0.04%
2.报错原因
集群报块丢失的原因很多,如物理磁盘损坏,节点不正常下线退役,集群高负载时如内存打满卡死,网络拥堵,系统本身问题等造成节点掉线,如cdh集群的agent和server失去联系,非正常下线,心跳超时等原因造成yarn界面出现块丢失现象
3.报错解决
- 检查缺失块
hdfs fsck /
- 检查确实块的详情
3. 删除某个不重要的缺失块
注意千万不要使用 hdfs dfs -rm 文件路径(手动删除,确实块数据并不改变,可以直接使用hdfs fsck -delete 删除所有缺失的块)
删除全部缺失或者损坏的块
hdfs fsck -delete
删除某个缺失的块
hdfs fsck -delete /user/root/.staging/job_1653704127175_27163/libjars/netty-3.10.6.Final.jar