最近项目有用到spark-jobserver来提供对外服务,主要用到的是他的面向job和context管理的REST接口
一:部署安装
这里就不再赘述来,网上很多个例子,可以参考
http://www.cnblogs.com/xiongmaotailang/p/5649256.html
这篇博客的内容,觉得写的还是可以的。
需要注意的一点是spark的版本问题,还有使用maven依赖的时候job-server-api_2.10 的版本问题,(主要是使用新老接口的问题即使用SparkJob或者NewSparkJob,在curl 提交作业的时候会宝少包的问题.我使用的是0.5.1 接口使用的SparkJob)
二:使用
1)首先需要初始化spark context
这里写代码片
curl -d "" 'ip:port/contexts/contextName?context-factory=spark.jobserver.context.SQLContextFactory'
- ip:ip地址