hadoop job 的container日志的查看

一般有几个地方可以查看:

1、通过本地日志目录查看对应container日志文件,默认在hadoop的安装目录下的/logs/userlogs/:直接用查看文件命令查看即可

该地方的应用运行日志不一定最全,因为任务运行日志由每一个NM产生在本地,然后再给聚合到文件系统中(配置聚合日志功能)。

2、浏览器查看,默认在/yarn/logs/${user}/logs:需要找对应的applicationId,甚至contaninerId

如:

[hadoop@hadoop01 ~]$ hdfs dfs -cat /yarn/logs/hadoop/logs/application_1523430872525_0002/hadoop01_60127

Log内容省略:

注:

${user} 是启动yarn模块服务的用户,比如我的是hadoop用户启动的,所以我的目录为:/yarn/logs/hadoop/logs。

该种方式需要配置聚合日志功能

该种方式需要启动jobhistoryserver服务

 

3、使用命令查看:可用yarn logs 加回车键查看其帮助

查看application的日志:

[hadoop@hadoop01 ~]$ yarn logs -applicationId application_1523430872525_0002 

查看具体某一个container的日志:

[hadoop@hadoop01 ~]$ yarn logs -applicationId application_1523430872525_0002 -containerId container_1523191604137_0016_02_000001 -nodeAddress hadoop01:60127

log日志省略:

4、当然查看具体日志方式有很多,还可以使用浏览器中直接点击查看,比如http://hadoop:19888  或者http://hadoop01:8088 中的链接去查看其日志内容

如:

 

等等的方式,出啦具体的错误你就会想尽一切办法找其具体日志信息来定位错误。。。。。。

  • 8
    点赞
  • 21
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大数据东哥(Aidon)

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值