spark 1.3.1 master 源码初探01

原创 2015年07月08日 22:15:52
首先打开远程调试:
    1.在spark/conf/spark-env.xml里面加入下列代码允许master远程调试
          
export SPARK_MASTER_OPTS="-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=10000"
    2.IDEA里面创建远程调试配置
        
    3.在服务器上启动master
    3.点击debug(小虫子)就可以开始了




入口:
    org.apache.spark.deploy.master.Master:865 Line Mian


进入startSystemAndActor,这里会通过一系列安全校验后通过Akka建立Actor    




   下面跟进AkkaUtils.createActorSystem





尝试启动服务




若是启动失败,重新尝试以及计算端口 




开始启动




ActorSystem启动完成,下面开始看启动Master:



主构造器中有意思的代码:



查看Master preStart中,订阅事件以及检测Worker心跳




执行到这里master启动就差不多了  , 有时间接着总结。 



Delphi7高级应用开发随书源码

  • 2003年04月30日 00:00
  • 676KB
  • 下载

Spark Core 1.3.1源码解析及个人总结

本篇源码基于赵星对Spark 1.3.1解析进行整理。虽然1.3.1有点老了,但对于standalone模式下的Master、Worker和划分stage的理解是很有帮助的。...

Spark通信机制:1)Spark1.3 vs Spark1.6源码分析

前一段时间看了较大基于Spark1.3的源码,其RPC通信机制是基于Akka的,但是在Spark1.6中,提供了2中实现方式:Netty(默认)、Akka 下面对比Spark1.3的Akka通信机制,...

Spark 1.3.0源码编译及部署

1. Spark1.3.0安装版本要求:    Spark 1.3.0    Java 6+    Python 2.6+    Scala 2.10.x 2. 安装Maven至 /usr/loca...

Delphi7高级应用开发随书源码

  • 2003年04月30日 00:00
  • 676KB
  • 下载

spark源码-master

  • 2016年05月30日 23:18
  • 18.42MB
  • 下载

spark源码分析--Master和worker建立连接

原创,转载请注明出处 http://baishuo491.iteye.com/blog/1990242。作者邮箱 vc_java@hotmail.com  Spark的master启动后,等待wor...

Spark技术内幕:Client,Master和Worker 通信源码解析

Spark的Cluster Manager可以有几种部署模式: StandloneMesosYARNEC2Local 在向集群提交计算任务后,系统的运算模型就是Driver Progr...

Spark集群启动之Master、Worker启动流程源码分析

Spark集群启动Master可以使用脚本启动:start-master,shell脚本细节自行查看。 最终启动命令为:java -cp /home/daxin/bigdata/spark/conf...
  • Dax1n
  • Dax1n
  • 2017年03月08日 22:31
  • 325

spark core源码分析2 master启动流程

源码位置:org.apache.spark.deploy.master.Master.scala 一、main主方法: [java] view plain copy ...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:spark 1.3.1 master 源码初探01
举报原因:
原因补充:

(最多只允许输入30个字)