在cdh5-yarn上运行map-reduce

2 篇文章 0 订阅

在cdh5版本的yarn上运行一个map-reduce任务结果报错,信息如下

2013-11-28 15:31:04,978 WARN org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch: Failed to launch container.

java.io.FileNotFoundException: File /home/username/src/cdh5/hadoop/hdfs/nm-local-dir/usercache/username/appcache/application_1385623655330_0001/container_1385623655330_0001_01_000001 does not exist
        at org.apache.hadoop.fs.RawLocalFileSystem.getFileStatus(RawLocalFileSystem.java:520)
        at org.apache.hadoop.fs.FileSystem.primitiveMkdir(FileSystem.java:1048)
        at org.apache.hadoop.fs.DelegateToFileSystem.mkdir(DelegateToFileSystem.java:150)
        at org.apache.hadoop.fs.FilterFs.mkdir(FilterFs.java:187)
        at org.apache.hadoop.fs.FileContext$4.next(FileContext.java:720)
        at org.apache.hadoop.fs.FileContext$4.next(FileContext.java:716)
        at org.apache.hadoop.fs.FSLinkResolver.resolve(FSLinkResolver.java:91)
        at org.apache.hadoop.fs.FileContext.mkdir(FileContext.java:716)
        at org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor.createDir(DefaultContainerExecutor.java:425)
        at org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor.launchContainer(DefaultContainerExecutor.java:139)
        at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:283)
        at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:79)
        at java.util.concurrent.FutureTask.run(FutureTask.java:262)
        at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)

        at java.lang.Thread.run(Thread.java:744)

查看了nodemanager的日志发现在/tmp目录下有过相同路径和名字的文件

2013-11-28 15:31:05,240 INFO org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor: Deleting absolute path : /tmp/hadoop-username/nm-local-dir/usercache/username/appcache/application_1385623655330_0001/container_1385623655330_0001_01_000001

怀疑是配置不正确引起的,查看了apache官网上的core-site.xml发现property:hadoop.tmp.dir默认是配置在/tmp/hadoop-useranem下的

而我是按照0.20的配置把hadoop.tmp.dir这个参数配置在hdfs-site.xml中,但奇怪的是在apache官网上的hdfs-site.xml中没有发现hadoop.tmp.dir这个参数

于是拷贝了这个参数到core-site.xml中,运行能通过

  • 1
    点赞
  • 0
    收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:大白 设计师:CSDN官方博客 返回首页
评论 1

打赏作者

superye1983

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值