查看spark历史日志

原创 2016年08月28日 15:43:01

如果作业正在运行,日志可以从以下来看:

192.168.1.101:4040

这个是spark的log上有的


如果作业已完成,日志可以这样设置:

spark-defaults.conf 增加如下内容

spark.eventLog.enabled true
spark.eventLog.dir file:///tmp/spark-events
spark.eventLog.compress true

启动$SPARK_HOME/sbin/start-history-server.sh

默认情况下这将在 http:// <服务器url >:18080创建一个web界面。

我的是http://192.168.1.101:18080


一些外部工具可以用来帮助提升Spark Job的性能:

·         整个集群范围的监视工具,如  Ganglia ,可以提供集群的总体利用率和资源瓶颈。

·         操作系统分析工具如 dstat iostat iotop等可以提供单个节点细粒度的分析。

·         JVM 实用工具如jstack 可以提供栈跟踪信息, jmap 可以生成堆dump, jstat报告分时统计以及jconsole等对于JVM内部结构分析都是非常有用的.



版权声明:本文为博主原创文章,未经博主允许不得转载。

相关文章推荐

Spark应用程序运行日志查看

比如,Spark应用程序代码如下: defseq(a: Int, b: Int): Int = {   println("seq: " + a + "\t "+ b)   math.max(a, b)...
  • sunbow0
  • sunbow0
  • 2016年05月20日 20:27
  • 11191

查看spark on yarn的日志和程序状态的方法

查看spark on yarn的日志

spark 查看 job history 日志

SPARK_HOME/conf 下:spark-defaults.conf 增加如下内容spark.eventLog.enabled true spark.eventLog.dir hdfs://m...

基于Spark的用户上网WAP日志分析

  • 2017年11月14日 17:40
  • 1.08MB
  • 下载

基于spark的实时流数据需跟历史数据进行对比时所遇到的问题

环境: HDP-2.3 Hadoop 2.7.1.2.3 HBase 1.1.1.2.3 Spark 1.4.1.2.3 Kafka 0.8.2.2.3 Solr 5.3.0 项...

基于Spark的用户上网WAP日志分析

  • 2017年02月16日 17:39
  • 1.86MB
  • 下载

Spark 启动历史任务记录进程,报错 Logging directory must be specified解决

Spark 启动历史任务记录进程,报错 Logging directory must be specified解决
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:查看spark历史日志
举报原因:
原因补充:

(最多只允许输入30个字)