Hadoop运行官方示例hadoop-mapreduce-examples报错

本文指导如何解决在运行Hadoop官方示例时遇到的问题。首先检查并确保Hadoop集群已启动,然后通过`hadoop classpath`命令查看路径。接着,在`etc/hadoop`目录下编辑`mapred-site.xml`,添加Hadoop目录的全路径,注意替换冒号为逗号。保存修改后,关闭并重启集群,最后在指定目录下执行`hadoop jar`命令运行示例,成功运行PI计算。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

前言:

首先要运行官方示例要确保hadoop集群搭建完成,且已经启动(start-all.sh)。

问题:

请添加图片描述
请添加图片描述
显示失败,分析一下错误代码,full path of your hadoop distribution directory
需要hadoop目录的满路经。它也提示了我们是在mapred-site.xml里修改。
执行命令 hadoop classpath 查看路径
请添加图片描述
然后进入到etc/hadoop 目录下,使用命令vim mapred-site.xml
将路径添加到<property></property>标签,注意把路径中的:替换成,
请添加图片描述
配置修改完成后,保存退出。
关闭集群(stop-all.sh),再打开集群(start-all.sh)。
然后再次进入到share/hadoop/mapduce目录下 执行命令

hadoop jar hadoop-mapreduce-examples-3.1.4.jar pi 2 4

请添加图片描述
运行成功~

运行Hadoop集群中的jar包时卡住的问题可能有几个原因。首先,可能是由于每个虚拟机分配的内存和CPU资源太少,无法满足Hadoop运行所需的默认资源需求。这可能导致jar包在运行时卡住。\[1\] 另一个可能的原因是提交不到集群。这可能是由于配置文件中的某些参数设置不正确导致的。例如,mapred-site.xml中的mapreduce.framework.name参数应该设置为yarn,以便正确提交到集群。\[2\] 此外,卡在INFO mapreduce.Job: Running job位置可能是由于yarn-site.xml中的一些参数设置不正确。例如,yarn.nodemanager.resource.memory-mb参数应该设置为足够的内存大小,yarn.scheduler.minimum-allocation-mb参数应该设置为适当的最小分配内存大小,yarn.nodemanager.vmem-pmem-ratio参数应该设置为适当的虚拟内存和物理内存比例。\[3\] 综上所述,要解决hadoop运行jar包卡住的问题,您可以尝试增加虚拟机的资源分配,确保配置文件中的参数设置正确,并根据需要调整yarn-site.xml中的参数。 #### 引用[.reference_title] - *1* *3* [解决Hadoop运行jar包时一直卡在: INFO mapreduce.Job: Running job位置的问题](https://blog.csdn.net/weixin_44177758/article/details/89893518)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [hadoop提交jar包卡住不会往下执行的解决方案](https://blog.csdn.net/weixin_33836223/article/details/90066006)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

万家林

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值