spark-mesos运行自己编译的程序

本文详细介绍了如何在Spark-Mesos环境下编译和运行自定义的Scala程序。首先,安装SBT,然后创建并配置项目,包括编写源代码和设置构建文件。接着,通过sbt package进行编译,并将结果部署到Mesos集群的slave节点。最后,解决运行时遇到的环境变量问题,使得Spark Executor能够正确找到并执行程序。
摘要由CSDN通过智能技术生成
配置好了spark-mesos环境,在上面可以运行示例,但是缺少了编译的过程。要了解里面的运行过程,需要编译代码在上面成功运行,才能进一步了解。记录一下如何编译运行实例。
首先,安装SBT(simple build tool)。
参考(http://www.scala-sbt.org/release/docs/Getting-Started/Setup.html)
我的环境是在CentOS上
a. 下载jar包(http://www.scala-sbt.org/release/docs/Getting-Started/Setup.html),将该jar包放在/root/bin/目录下。
b. 创建文件 /root/bin/sbt 在文件中输入下面两行
SBT_OPTS="-Xms512M -Xmx1536M -Xss1M -XX:+CMSClassUnloadingEnabled -XX:MaxPermSize=256M"
java $SBT_OPTS -jar `dirname $0`/sbt-launch.jar "$@"
c. 给/root/bin/sbt增加可执行的权限  chmod u+x /root/bin/sbt
d.
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值