Hadoop配置日志的聚集——jobhistory不显示任务问题_jobhistory页面看不到任务

最新推荐文章于 2024-08-02 18:16:05 发布

2401_84166236

最新推荐文章于 2024-08-02 18:16:05 发布

阅读量244

点赞数 3

分类专栏：程序员文章标签： hadoop 大数据分布式

本文链接：https://blog.csdn.net/2401_84166236/article/details/138410883

版权

程序员专栏收录该内容

184 篇文章 1 订阅

订阅专栏


3.关闭NodeManager 、ResourceManager和HistoryServer

sbin/stop-yarn.sh

mapred --daemon stop historyserver


4.启动NodeManager 、ResourceManage和HistoryServer

start-yarn.sh

mapred --daemon start historyserver


到这里都没有错，找了半天发现是前面配置的mapred-site.xml出错了，就是如果设置日志聚集的话，前面配置的mapred-site也需要修改一下配置。  
 如下：

<?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> mapreduce.framework.name yarn mapreduce.job.ubertask.enable true mapreduce.jobhistory.address hadoop102:10020 mapreduce.jobhistory.webapp.address hadoop102:19888


yarn框架没有配置  
 造成的结果：


![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/d9312d0555d2404e918ffcefa43e35d7.png)修改以后在分发一下，重新启动就好了，运行命令也有记录了

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input /output


如图：  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/9ffbe1f468a14da1810b3d99da6b6ac9.png)这样就改好了，出现类似问题的话，大部分就是mapred-site和yarn-site这两个文件没有配置好，就可以多检查几遍看看。


![img](https://img-blog.csdnimg.cn/img_convert/0bcaceef0e412a4a3aa925719dfc47a2.png)
![img](https://img-blog.csdnimg.cn/img_convert/7d4be599923a1204ccb33ff5aac9a74b.png)

**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

*


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**