Spark的submit命令

在win系统下的Idea编译spark自带的JavaWordCount代码,到apache的官网下载对应的spark包spark-1.5.0-bin-hadoop2.6.tgz,从 spark-1.5.0-bin-hadoop2.6\examples\src\main\java\org\apache\spark\examples找到JavaWordCount源码在Idea上进行编译,编译的时候要导
摘要由CSDN通过智能技术生成

在win系统下的Idea编译spark自带的JavaWordCount代码,到apache的官网下载对应的spark包spark-1.5.0-bin-hadoop2.6.tgz,从
spark-1.5.0-bin-hadoop2.6\examples\src\main\java\org\apache\spark\examples找到JavaWordCount源码在Idea上进行编译,编译的时候要导入spark-1.5.0-bin-hadoop2.6\lib下的jar包。当代码没有错误后在将其打成jar包。然后发送的集群上。
用submit命令进行提交。
命令参数如下:
一些常用选项:

--class:  #你的应用的启动类 (如 org.apache.spark.examples.SparkPi)
--master: #集群的master URL (如 spark://23.195.26.187:7077)
--deploy-mode: #是否发布你的驱动到worker节点(cluster) 或者作为一个本地客户端 (client) (默认就是 client模式)
--conf:  # 任意的Spark配置属性, 格式key=value. 如果值包含空格,可以加引号“key=value”.
--application-jar:  # 打包好的应用jar,包含依赖
--application-arguments:  # 传给main()方法的参数

具体的提交命令如下:


运行在本地:

spark-submit --master local --class org.apache.spark.examples.JavaWordCount --executor-memory 1G --total-executor-cores 2 ~/JavaWordCount.jar hdfs://Master:9000/user/hadoop/input/text

结果能够在

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值