Spark运行模式

最新推荐文章于 2024-03-04 15:21:05 发布

xubc

最新推荐文章于 2024-03-04 15:21:05 发布

阅读量394

点赞数

分类专栏： spark 文章标签： spark 运行模式

本文链接：https://blog.csdn.net/u011098327/article/details/53939949

版权

spark 专栏收录该内容

14 篇文章 1 订阅

订阅专栏

Spark设置setMaster=local，不提交集群，在本地启用多线程模拟运行

object SparkUtil {
   
  private val logger = Logger.getLogger(getClass.getName, true)
   
  def getSparkContext(appName:String, local:Boolean=false, threadNum:Int=4):SparkContext = {
     
      val conf = new SparkConf().setAppName(appName)
      if(local)
        conf.setMaster(s"""local[$threadNum]""")
      val sc = new SparkContext(conf)
      return sc
  }
}
 
SparkUtil.getSparkContext("testApp",true)  // 本地启4个线程模拟运行

本地模式运行可以测试主要的程序逻辑，并不能一定在集群中正确运行.

使用spark-submit提交的几种方式如下

local本地模式

    spark-submit --class org.apache.spark.examples.SparkPi 
                 --master local 
                 spark-examples-*.jar 10

yarn-clien模式

spark-submit --class org.apache.spark.examples.SparkPi \
    --master yarn \
    --deploy-mode client \
    --driver-memory 4g \
    --executor-memory 2g \
    --executor-cores 1 \
    spark-examples-*.jar \
    10

yarn-cluster模式

spark-submit --class org.apache.spark.examples.SparkPi \
    --master yarn \
    --deploy-mode cluster \
    --driver-memory 4g \
    --executor-memory 2g \
    --executor-cores 1 \
    spark-examples-*.jar \
    10