Spark On YARN

Spark On YARN概述

• Spark支持可插拔的集群管理模式                                                                                                                                                                                                                       在Spark中，支持4种运行模式：
             1）Local：开发时使用
             2）Standalone： 是Spark自带的，如果一个集群是Standalone的话，那么就需要在多台机器上同时部署Spark环境
             3）YARN：建议大家在生产上使用该模式，统一使用YARN进行整个集群作业(MR、Spark)的资源调度
  

             4）Mesos

  不管使用什么模式，Spark应用程序的代码是一模一样的，只需要在提交的时候通过--master参数来指定我们的运行模式即可

• 对于YARN而言，Spark Application仅仅是一个客户端而已（两种流程）

1. Spark on YARN之client模式

Client
Driver运行在Client端(提交Spark作业的机器)
Client会和请求到的Container进行通信来完成作业的调度和执行，Client是不能退出的
日志信息会在控制台输出：便于我们测试

2.Spark on YARN之cluster模式

Cluster
Driver运行在ApplicationMaster中
Client只要提交完作业之后就可以关掉，因为作业已经在YARN上运行了
日志是在终端看不到的，因为日志是在Driver上，只能通过yarn logs -applicationIdapplication_id

Spark On YARN的使用

• 在/conf/spak-env.sh中设置HADOOP_CONF_DIR=/home/hadoop/app/hadoop-2.6.0-cdh5.7.0/etc/hadoop
• spark-shell运行在YARN上测试 ./bin/spark-shell --master yarn
• spark-submit运行在YARN上测试

./bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master yarn \
--executor-memory 1G \
--num-executors 1 \
/home/hadoop/app/spark-2.1.0-bin-2.6.0-cdh5.7.0/examples/jars/spark-examples_2.11-2.1.0.jar \
4