CDH5 Hue Spark报错完美解决方案

CDH5自己集成了Spark,根据官方guidline可以很方便的安装

http://www.cloudera.com/content/cloudera-content/cloudera-docs/CDH5/5.0/CDH5-Installation-Guide/CDH5-Installation-Guide.html

装好之后,可以提交job,可以scala交互。


可是当安装Hue,并用Hue自带的Spark Igniter来操纵Spark时,会报错,例如:

1.  Spark Editor     The app won't work without a running Job Server  (Hue的首页界面看到)

2.  base   ERROR    Internal Server Error: /jobbrowser/    (/var/log/hue/error.log看到)

3. Spark Igniter 无法上传文件


经过google,发现原因是Spark job server没装。网上有两种安装方式,可是每一种都不能独立成功,需要两者结合。这里先列出这两种安装方式,再说怎么结合。


方式a:

a.1) 下载sbt运行环境 wget http://repo.scala-sbt.org/scalasbt/sbt-native-packages/org/scala-sbt/sbt/0.13.1/sbt.rpm

a.2) 安装sbt  rpm -ivh sbt.rpm

a.3) git clone https://github.com/ooyala/spark-jobserver.git

a.4) cd spark-jobserver

a.5) sbt

a.6) re-start


方式b:

b.1) git clone https://github.com/ooyala/incubator-spark.git spark-server

b.2) cd spark-server

b.3) sbt/sbt

b.4) project

b.5) jobserver re-start


为了结合方式a和方式b,按这个顺序执行

b.1) -> b.2) -> b.3) -> a.1) -> a.2 -> a.3) -> a.4) -> a.5) -> a.6)


注意:job server启动后,不会退回到终端。需要另起一个终端来restart hue


这样再用浏览器打开 huehostname:8888 应该可以了。



  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值