HADOOP之历史服务器

Hadoop自带了一个历史服务器,可以通过历史服务器查看已经运行完的
Mapreduce作业记录,比如用了多少个Map、用了多少个Reduce、作业提交时间、
作业启动时间、作业完成时间等信息。默认情况下,Hadoop历史服务器是没有启
动的,我们可以通过下面的命令来启动Hadoop历史服务器

$> sbin/
开启jobhistory进程执行:mr-jobhistory-daemon.sh start historyserver
关闭jobhistory进程执行:mr-jobhistory-daemon.sh stop historyserver

配置历史服务器
为了查看程序的历史运行情况,需要配置一下历史服务器。具体配置步骤如下:
1、配置mapred-site.xml $HADOOP_HOME/etc/hadoop下的sbin里

mapreduce.jobhistory.address master:10020 mapreduce.jobhistory.webapp.address master:19888

启动历史服务器
$>mr-jobhistory-daemon.sh start historyserver
查看JobHistoryWebUI
http://master:19888

说明:该功能实际开发过程中需要打开。学习测试的时候不用打开,影响性能。

在Hadoop历史服务器的WEB UI上最多显示20000个历史的作业记录信息;
其实我们可以通过下面的参数进行配置,然后重启一下Hadoop jobhistory即可
注:历史记录最大数
mapreduce.jobhistory.joblist.cache.size
20000

hdfs-site.xml(每次修改后需要重启h

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值