Hadoop历史服务器配置

1、历史服务器配置

1.1 配置

mapred-site.xml（修改实际ip地址）

<!-- 历史服务器端地址 -->
<property>
<name>mapreduce.jobhistory.address</name>
<value>192.168.xxx.xxx:10020</value>
</property>
<!-- 历史服务器web端地址 -->
<property>
    <name>mapreduce.jobhistory.webapp.address</name>
    <value>192.168.xxx.xxx:19888</value>
</property>

1.2 启动历史服务器

mr-jobhistory-daemon.sh start historyserver

1.3 查看历史服务器地址

http://ip:19888/jobhistory

2、配置日志的聚集

2.1 配置

yarn-site.xml

<!-- 日志聚集功能使能 -->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>

<!-- 日志保留时间设置7天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>

2.2 关闭NodeManager 、ResourceManager和HistoryManager

yarn-daemon.sh stop resourcemanager
yarn-daemon.sh stop nodemanager
mr-jobhistory-daemon.sh stop historyserver

2.3 启动NodeManager 、ResourceManager和HistoryManager

yarn-daemon.sh start resourcemanager
yarn-daemon.sh start nodemanager
mr-jobhistory-daemon.sh start historyserver

2.4 测试

删除已存在的文件

hdfs dfs -rm -R /data/demo/wordcount/output

重新执行wordcount程序

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.10.0.jar wordcount /data/demo/wordcount/input /data/demo/wordcount/output

查看日志