java.tmp.dir_Hadoop 伪分布式下更换默认hadoop.tmp.dir路径

hadoop.tmp.dir是hadoop文件系统依赖的基础配置,很多路径都依赖它。它默认的位置是在/tmp/{$user}下面,但是在/tmp路径下的存储是不安全的,因为linux一次重启,文件就可能被删除。

先说说,场景,在开发环境中,由于意外断电.重新启动HADOOP MASTER 结点,启动HADOOP START-ALL.SH

点击(此处)折叠或打开

grid$ start-all.sh

查看http:\\hdnode1m:50070\ 无法打开网页, HADOOP 启动失败,回过头去看日志文件。

打开 ${hadoop_home}\logs\hadoop-grid-namenode-hdnode1m.log

出现如下错误:

点击(此处)折叠或打开

2012-10-12 10:06:54,804 INFO org.apache.hadoop.hdfs.server.common.Storage: Storage directory /tmp/hadoop-grid/dfs/name does not exist.

2012-10-12 10:06:54,806 ERROR org.apache.hadoop.hdfs.server.namenode.FSNamesystem: FSNamesystem initialization failed.

org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-grid/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible.

at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:290)

at org.apache.hadoop.hdfs.server.namenode.FSDirectory.loadFSImage(FSDirectory.java:87)

at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.initialize(FSNamesystem.java:311)

at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.(FSNamesystem.java:292)

at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:201)

at org.apache.hadoop.hdfs.server.namenode.NameNode.(NameNode.java:279)

at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:956)

at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:965)

2012-10-12 10:06:54,819 INFO org.apache.hadoop.ipc.Server: Stopping server on 9000

很清楚了 ,/tmp/hadoop-grid/dfs/name is in an inconsistent state: storage directory does not exist,

1.具体愿因是 LINUX 系统,在服务重启后,/tmp 下的目录被清空,Hadoop无法找到dfs/name 这个dfs文件系统的域名空间文件。

hadoop.tmp.dir 是 hadoop文件系统依赖的基本配置,很多配置路径都依赖它,它的默认位置在/tmp/{$user}下面。

2.解决办法:

在core-site.xml中配置 hadoop.tmp.dir 路径到持久化目录。

点击(此处)折叠或打开

fs.default.name

hdfs://hdnode1m:9000

hadoop.tmp.dir

/home/grid/disk

3.由于重新配置了hadoop.tmp.dir 目录,意味着,必须重新格式hdfs

#bin/hadoop namenode -format

4.后果

重新格式化了文件系统,自己想想吧,以前所有的文件都没有了。

强烈建议大家,在安装配置HADOOP的时候,一定要更改hadoop.tmp.dir .

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值