Day11——Spark-CSDN博客

本文链接：https://blog.csdn.net/2303_77130695/article/details/139767715

文章目录

前言
一、Spark安装与配置
- 1.安装
- 2.配置
二、Spark运行模式
三、Spark应用程序的提交
四、Spark Shell的使用

前言

Apache Spark是一个快速通用的集群计算系统，是一种与Hadoop相似的开源集群计算环境，但是Spark在一些工作负载方面表现得更加优越。它提供了Java、Scala、Python和R的高级API，以及一个支持通用的执行图计算的优化引擎。它还支持高级工具，包括使用SQL进行结构化数据处理的Spark SQL、用于机器学习的MLlib、用于图处理的GraphX，以及用于实时流处理的Spark Streaming。

一、Spark安装与配置

1.安装

官网下载压缩包，上传至虚拟机中解压。

2.配置

在配置文件/etc/profile中添加：

export SPARK_HOME=安装路径/spark-3.3.3-bin-hadoop3 #此处已自己下载实际为准
export PATH=$PATH:$SPARK_HOME/bin

执行/etc/profile脚本，使配置生效

source /etc/profile

二、Spark运行模式

1.本地（单机）模式

本地模式通过多线程模拟分布式计算，通常用于对应用程序的简单测试。本地模式在提交应用程序后，将会在本地生成一个名为SparkSubmit的进程，该进程既负责程序的提交，又负责任务的分配、执行和监控等。

2.Spark Standalone模式

使用Spark自带的资源调度系统，资源调度是Spark自己实现的。

两种提交方式

Spark Standalone模式为经典的Master/Slave架构，资源调度是Spark自己实现的。在Standalone模式中，根据应用程序提交的方式不同，Driver（主控进程）在集群中的位置也有所不同。应用程序的提交方式主要有两种：client和cluster，默认是client。可以在向Spark集群提交应用程序时使用–deploy-mode参数指定提交方式。

client提交方式

集群的主节点称为Master节点，在集群启动时会在主节点启动一个名为Master的守护进程；从节点称为Worker节点，在集群启动时会在各个从节点上启动一个名为Worker的守护进程。
Spark在执行应用程序的过程中会启动Driver和Executor两种JVM进程。

Driver为主控进程，负责执行应用程序的main()方法，创建SparkContext对象（负责与Spark集群进行交互），提交Spark作业，并将作业转化为Task（一个作业由多个Task任务组成），然后在各个Executor进程间对Task进行调度和监控。通常用SparkContext代表Driver。如图所示的架构中，Spark会在客户端启动一个名为SparkSubmit的进程，Driver程序则运行于该进程。

Executor为应用程序运行在Worker节点上的一个进程，由Worker进程启动，负责执行具体的Task，并存储数据在内存或磁盘上。每个应用程序都有各自独立的一个或多个Executor进程。

cluster提交方式

Standalone以cluster提交方式提交应用程序后，客户端仍然会产生一个名为SparkSubmit的进程，但是该进程会在应用程序提交给集群之后就立即退出。当应用程序运行时，Master会在集群中选择一个Worker启动一个名为DriverWrapper的子进程，该子进程即为Driver进程。

Spark Standalone模式的搭建

进入Spark安装根目录，进入conf目录，执行以下操作：

(1)：复制spark-env.sh.template文件为spark-env.sh文件

cp spark-env.sh.template spark-env.sh

(2): 修改spark-env.sh文件，添加以下内容：

export JAVA_HOME=/export/servers/jdk1.8.0_161
export SPARK_MASTER_HOST=my2308-host
export SPARK_MASTER_PORT=7077

JAVA_HOME：指定JAVA_HOME的路径。若节点在/etc/profile文件中配置了JAVA_HOME，则该选项可以省略，Spark启动时会自动读取。为了防止出错，建议此处将该选项配置上。
SPARK_MASTER_HOST：指定集群主节点（Master）的主机名。
SPARK_MASTER_PORT：指定Master节点的访问端口，默认为7077。

(3): 启动Spark集群

进入Spark安装目录，执行以下命令，启动Spark集群：

sbin/start-all.sh

启动完毕后，分别在各节点执行jps命令，查看启动的Java进程。若存在Master进程和Worker进程，则说明集群启动成功。

3.Spark On YARN架构

Spark On YARN模式遵循YARN的官方规范，YARN只负责资源的管理和调度，运行哪种应用程序由用户自己决定，因此可能在YARN上同时运行MapReduce程序和Spark程序，YARN对每一个程序很好地实现了资源的隔离。这使得Spark与MapReduce可以运行于同一个集群中，共享集群存储资源与计算资源。

Spark On YARN的两种提交方式

Spark On YARN模式与Standalone模式一样，也分为client和cluster两种提交方式。

client提交方式
Spark On YARN模式架构（client提交方式）

客户端会产生一个名为SparkSubmit的进程，Driver程序则运行于该进程中。

cluster提交方式

ResourceManager会在集群中选择一个NodeManager进程启动一个名为ApplicationMaster的子进程，该子进程即为Driver进程（Driver程序运行在其中）。

Spark On YARN模式的搭建

Spark On YARN模式的搭建比较简单，仅需要在YARN集群的一个节点上安装Spark即可，该节点可作为提交Spark应用程序到YARN集群的客户端。Spark本身的Master节点和Worker节点不需要启动。

使用此模式需要修改Spark配置文件$SPARK_HOME/conf/spark-env.sh，添加Hadoop相关属性，指定Hadoop与配置文件所在目录，内容如下：

export HADOOP_HOME=/export/servers/hadoop-3.2.0
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop

三、Spark应用程序的提交

Spark提供了一个客户端应用程序提交工具spark-submit，使用该工具可以将编写好的Spark应用程序提交到Spark集群。

spark-submit的使用格式：

bin/spark-submit [options] <app jar> [app options]

options：表示传递给spark-submit的控制参数；

app jar：表示提交的程序jar包（或Python脚本文件）所在位置；

app options：表示jar程序需要传递的参数，例如main()方法中需要传递的参数。

附表：

spark-submit的常用参数介绍

在这里插入图片描述

spark-submit的–master参数取值介绍

在这里插入图片描述

四、Spark Shell的使用

Spark带有交互式的Shell，可在Spark Shell中直接编写Spark任务，然后提交到集群与分布式数据进行交互，并且可以立即查看输出结果。Spark Shell提供了一种学习Spark API的简单方式，可以使用Scala或Python语言进行程序的编写。

执行以下命令，可以查看Spark Shell的相关使用参数：

spark-shell --help

Spark Shell在Spark Standalone模式和Spark On YARN模式下都可以执行，与使用spark-submit进行任务提交时可以指定的参数及取值相同。唯一不同的是，Spark Shell本身为集群的client提交方式运行，不支持cluster提交方式，即使用Spark Shell时，Driver运行于本地客户端，而不能运行于集群中。

本地（单机）模式启动Spark Shell终端

spark-shell --master local

Spark Standalone模式启动Spark Shell终端

spark-shell --master spark://虚拟机IP:7077

Spark On YARN模式启动Spark Shell终端（别忘了开启Hadoop YARN）

spark-shell --master yarn

注意：若启动过程中报错如图所示，则说明Spark任务的内存分配过小，YARN直接将相关进程杀掉了。

在这里插入图片描述

此时只需要在Hadoop的配置文件yarn-site.xml中加入以下内容即可：

    <!--关闭物理内存检查-->
    <property>
        <name>yarn.nodemanager.pmem-check-enabled</name>
        <value>false</value>
    </property>
    <!--关闭虚拟内存检查-->
    <property>
        <name>yarn.nodemanager.vmem-check-enabled</name>
        <value>false</value>
    </property>

然后重启YARN即可。