解决:hadoop safemode is on

hadoop的safemode一直是开启状态,设置手动关闭之后还会自动进入开启状态:

一,第一种情况:block块丢失

打开50070页面,有如下警告界面:

在这里插入图片描述

here are 6 missing blocks. The following files may be corrupted:


blk_1073744534 /tmp/hive/root/6f4a95a4-5b21-4624-baae-4e61fd16c40e/hive_2021-05-21_09-53-04_887_3047558412324042111-1/dummy_path/dummy_file
blk_1073744536 /tmp/hive/root/6f4a95a4-5b21-4624-baae-4e61fd16c40e/hive_2021-05-21_09-53-04_887_3047558412324042111-1/-mr-10004/c9c3653a-732b-4baf-8fdb-a1f715b6d22b/map.xml
blk_1073744538 /tmp/hadoop-yarn/staging/root/.staging/job_1621505231151_0003/job.jar
blk_1073744540 /tmp/hadoop-yarn/staging/root/.staging/job_1621505231151_0003/job.split
blk_1073744542 /tmp/hadoop-yarn/staging/root/.staging/job_1621505231151_0003/job.splitmetainfo
blk_1073744544 /tmp/hadoop-yarn/staging/root/.staging/job_1621505231151_0003/job.xml
Please check the logs or run fsck in order to identify the missing blocks. See the Hadoop FAQ for common causes and potential solutions.

如果确认这些文件都是垃圾数据,可以用命令行把这些文件删掉

hdfs fsck -delete  /tmp/hadoop-yarn/staging/root/.staging/job_1621505231151_0003/job.xml

删除时,因为safemode是开启状态,删除会失败,手动关闭safemode:

hadoop dfsadmin -safemode leave

第二种情况:服务器资源耗尽

在这里插入图片描述

进入服务器,执行命令:

df -h 

发现根目录磁盘使用率为100%。

进一步查看根目录下个文件的磁盘占用情况:

 du -sh  /*

层层下查,发现是hadoopDatas文件夹占用太多空间,因为是测试环境,可以直接将该目录下的数据情况。

之后再查看磁盘使用情况:

[root@node1 bin]# df -h
Filesystem               Size  Used Avail Use% Mounted on
devtmpfs                 1.9G     0  1.9G   0% /dev
tmpfs                    1.9G     0  1.9G   0% /dev/shm
tmpfs                    1.9G   12M  1.9G   1% /run
tmpfs                    1.9G     0  1.9G   0% /sys/fs/cgroup
/dev/mapper/centos-root   17G  9.3G  7.8G  55% /
/dev/sda1               1014M  153M  862M  16% /boot
tmpfs                    378M     0  378M   0% /run/user/0

删除这个文件夹之后要注意两个问题:

  • 一是重启之前记得格式化namemode
hadoop namenode -format
// 或者
hdfs namenode -format
  • 二是在hadoop的安装根目录下重新创建几个必要的文件夹
mkdir -p hadoopDatas/namenodeDatas

mkdir -p nn/edits/
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小手追梦

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值