5.3 Spark任务提交

本文介绍了如何使用`spark-submit`命令提交Spark作业,包括指定jar包位置、主类及提交模式。通过示例代码和参数解析,帮助理解提交流程,并展示了计算圆周率的应用示例。
摘要由CSDN通过智能技术生成
  • spark-submit提交

编程要求:

        jar包所在位置:/root/project.jar

        主类:Student 提交模式:local

        预期输出:(bj,88)(sh,67)(gz,92)

代码实现:

#!/bin/bash
cp -r  Spark/SparkRDD/target/project.jar /root
cd /opt/spark/dist/bin
#********** Begin **********#
./spark-submit --master local --class Student /root/project.jar
#********** End **********#
  • 相关知识:

使用格式:

./bin/spark-submit

--class

--master

--deploy-mode

--conf

... # other options

application-jar

spark-submit参数

参 数 介 绍
--master
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值