日志服务器搭建及配置_配置历史服务器和日志聚集

本文介绍了如何配置Hadoop历史服务器以查看程序运行历史,包括编辑mapred-site.xml和yarn-site.xml文件,添加相关配置内容,然后启动历史服务器并验证其运行状态。在hadoop101和hadoop103节点上执行相应的启动命令,并通过19888端口的web界面检查历史服务器的工作情况。
摘要由CSDN通过智能技术生成

02b5693fc97cfa418e2e89eb5ed49bb3.png

为了查看程序的历史运行情况,需要配置一下历史服务器

配置历史服务器

配置mapred-site.xml

Xshell连接hadoop101输入指令:

cd /opt/module/hadoop-2.7.2/etc/hadoop

vim mapred-site.xml.template

在里面添加如下内容

<!-- 历史服务器端地址 -->
<property>
<name>mapreduce.jobhistory.address</name>
<value>hadoop103:10020</value>
</property>
<!-- 历史服务器web地址 -->
<property>
 <name>mapreduce.jobhistory.webapp.address</name>
 <value>hadoop103:19888</value>
</property>
<!--第三方框架使用yarn计算的日志聚集功能 -->
<property>
 <name>yarn.log.server.url</name>
 <value>http://hadoop103:19888/jobhistory/logs</value>
</property>

a023d52d815a3eb0a4de017507ce4683.png

日志聚集

配置yarn-site.xml

还是在hadoop101的相关目录下

指令:

vim yarn-site.xml

在里面添加以下内容:

<!-- 日志聚集功能使能 -->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>

<!-- 日志保留时间设置7天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>

39385bdbdbaeba5ab3eca2322e0b0749.png

启动历史服务器

接下来启动集群

hadoop101:start-dfs.sh

hadoop103:start-yarn.sh

我们刚才在103上配置了历史服务器,现在去hadoop103启动历史服务器

指令:

cd /opt/module/hadoop-2.7.2

mr-jobhistory-daemon.sh start historyserver

23c1c721f094d216c76d089834dcec43.png

查看历史服务器

指令:jps

592a55b2926409a5dce6c9afabfd0291.png

web查看

http://hadoop103:19888/jobhistory

428d36720d1db94b14f82a84d1d28ca0.png
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值