提交Spark应用程序的三种方式

本文介绍了Spark应用程序提交的三种模式:Client本地模式和Cluster集群模式,详细解析了standalone HA及spark on yarn环境下的提交,并讲解了常用Spark命令参数,如master、deploy-mode、driver-memory等,帮助企业理解如何优化Spark应用的资源配置。
摘要由CSDN通过智能技术生成

Client 本地模式 和 Cluster 集群模式 最本质的区别在于:Driver程序在哪里?

  • Client模式下的Drive就在提交Spark应用程序所在的机器上运行
  • Cluster模式下的Drive在集群的某台空闲的WorkerNode上运行

1、standalone HA 下的 client 本地模式,提交圆周率Spark应用程序(测试模式中使用)

${SPARK_HOME}/bin/spark-submit \
--master spark://node1.itcast.cn:7077,node2.itcast.cn:7077 \
--deploy-mode client \
--conf "spark.pyspark.driver.python=/root/anaconda3/bin/python3" \
--conf "spark.pyspark.python=/root/anaconda3/bin/python3" \
${SPARK_HOME}/examples/src/main/python/pi.py \
100

2、standalone HA 下的 cluster 集群模式,提交圆周率Spark应用程序

SPARK_HOME=/export/server/spark
${SPARK_HOME}/bin/spark-submit \
--master spark://node1.itcast.cn:7077 \
--deploy-mode cluster  \
--driver-memory 512m \
--executor-memory 512m \
--total-executor-cores 2 \
--class org.apache.spark.examples.SparkPi \
${SPARK_HOME}/examples
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Spark on Kubernetes有三种不同的方式可以使用:spark-submit、Spark on Kubernetes Operator和Spark Operator for Kubernetes。下面是对这三种方式的对比: 1. spark-submit:这是最普遍的使用Spark on Kubernetes的方式。它通过命令行工具spark-submit来提交Spark应用程序到Kubernetes集群上运行。使用spark-submit,用户可以指定Spark应用程序的依赖、资源需求和应用程序脚本等信息。这种方式相对简单,适合快速测试和开发。 2. Spark on Kubernetes Operator:这是Kubernetes项目中一种常见的资源抽象方式。它基于Kubernetes的Custom Resource Definitions(CRD)来定义SparkApplication资源类型,使得Spark应用程序可以像常规的Kubernetes Pods一样被管理。Spark on Kubernetes Operator提供了更多的灵活性和可扩展性,可以通过定义自定义资源来描述和管理复杂的Spark应用程序。 3. Spark Operator for Kubernetes:这是由Google开发的一种专门为Kubernetes设计的Spark操作符。与Spark on Kubernetes Operator不同,Spark Operator for Kubernetes提供了更高级别的抽象,可以通过定义自定义资源和控制器来描述和管理Spark应用程序。此外,Spark Operator for Kubernetes还提供了其他功能,如动态资源分配、高可用性和故障转移等。 总之,这三种方式都可以在Kubernetes上运行Spark应用程序,但它们在抽象程度和功能上有所不同。spark-submit方式简单易用,而Spark on Kubernetes Operator和Spark Operator for Kubernetes提供了更多的灵活性和高级功能。选择哪种方式取决于具体的使用场景和需求。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

奇迹虎虎

客官,赏个银子吧,别下次一定了

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值