查看spark历史日志

原创 2016年08月28日 15:43:01

如果作业正在运行,日志可以从以下来看:

192.168.1.101:4040

这个是spark的log上有的


如果作业已完成,日志可以这样设置:

spark-defaults.conf 增加如下内容

spark.eventLog.enabled true
spark.eventLog.dir file:///tmp/spark-events
spark.eventLog.compress true

启动$SPARK_HOME/sbin/start-history-server.sh

默认情况下这将在 http:// <服务器url >:18080创建一个web界面。

我的是http://192.168.1.101:18080


一些外部工具可以用来帮助提升Spark Job的性能:

·         整个集群范围的监视工具,如  Ganglia ,可以提供集群的总体利用率和资源瓶颈。

·         操作系统分析工具如 dstat iostat iotop等可以提供单个节点细粒度的分析。

·         JVM 实用工具如jstack 可以提供栈跟踪信息, jmap 可以生成堆dump, jstat报告分时统计以及jconsole等对于JVM内部结构分析都是非常有用的.



版权声明:本文为博主原创文章,未经博主允许不得转载。

Spark实践-日志查询

环境 win 7 jdk 1.7.0_79 (Oracle Corporation) scala version 2.10.5 spark 1.6.1 详细配置: Spark...
  • youdianjinjin
  • youdianjinjin
  • 2016年04月29日 18:25
  • 6569

Spark应用程序运行日志查看

比如,Spark应用程序代码如下: defseq(a: Int, b: Int): Int = {   println("seq: " + a + "\t "+ b)   math.max(a, b)...
  • sunbow0
  • sunbow0
  • 2016年05月20日 20:27
  • 12179

查看spark on yarn的日志和程序状态的方法

查看spark on yarn的日志
  • high2011
  • high2011
  • 2016年08月05日 21:13
  • 7643

Linux下查看历史操作记录

Linux下查看历史操作记录 2012-04-17 10:23:05     我来说两句       收藏    我要投稿 last命令可以用来查看用户的登陆记录。   ...
  • lixiaohuiok111
  • lixiaohuiok111
  • 2014年01月06日 10:53
  • 3389

查看spark on yarn的日志和程序状态的方法

查看spark on yarn的日志和程序状态的方法 转载原文: http://blog.csdn.net/high2011/article/details/52132646 ...
  • nysyxxg
  • nysyxxg
  • 2017年02月09日 17:14
  • 645

(8)Spark 2.0.0 查看job 历史日志

引言 启动Spark历史日志 1 安装Spark 2 修改配置文件spark-defaultsconf 3 修改配置文件spark-envsh 4 创建日志目录 5 启动spark历史日志web端 6...
  • LoveCarpenter
  • LoveCarpenter
  • 2017年12月13日 16:43
  • 939

spark不同模式下应用程序运行的日志存放位置

spark不同运行模式下,应用程序运行的输出日志位置
  • u011878191
  • u011878191
  • 2015年05月21日 16:55
  • 3572

详解 WordCount 运行后历史日志记录

在 《Hadoop-2.5.0-cdh5.3.2 HA 安装》 一文中我们已经详细讲述了如何搭建 HA 模式,同时最后还演示了运行其自带的 wordcount 程序,详情请参考 运行 Hadoop自...
  • u011414200
  • u011414200
  • 2016年01月01日 11:07
  • 1786

Hadoop 历史服务器与日志详解

本文转至 Hadoop日志存放路径详解 一 Hadoop日志存放路径详解 1 Hadoop系统服务输出的日志 2 配置 Hadoop 系统服务日志 二 Mapreduce 程序相关的日志 1...
  • u011414200
  • u011414200
  • 2016年01月01日 10:59
  • 2784

Spark应用程序运行的日志存在哪里

spark应用程序运行日志
  • u011878191
  • u011878191
  • 2015年05月21日 14:00
  • 5744
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:查看spark历史日志
举报原因:
原因补充:

(最多只允许输入30个字)