伪分布式Spark集群搭建

一、软件环境

软    件	版    本	安  装  包
VMware虚拟机	16	VMware-workstation-full-16.2.2-19200509.exe
SSH连接工具		FinalShell
Linux OS	CentOS7.5	CentOS-7.5-x86_64-DVD-1804.iso
JDK	1.8	jdk-8u161-linux-x64.tar.gz
Spark	3.2.1	spark-3.2.1-bin-hadoop2.7.tgz

二、实训操作步骤

技能点１：Final Shell连接虚拟机 

①打开虚拟机终端，输入命令ifconfig,查看虚拟机的IP地址。

②打开Final Shell，进行SSH连接虚拟机。

③设置IP地址，使用root账户和密码进行连接登录。

技能点2：上传Spark安装包并解压

①上传Spark安装包

使用FinalShell软件将HBase安装包spark-3.2.1-bin-hadoop2.7.tgz上传至虚拟机的/opt目录下。

②解压Spark安装包 

使用“tar”命令将HBase解压至/usr/local目录下，具体命令如下：

tar -zxvf /opt/spark-3.2.1-bin-hadoop2.7.tgz -C /usr/local/

技能点3：配置spark-env.sh文件

①进入到Spark安装包的conf目录下，具体命令如下：

cd /usr/local/spark-3.2.1-bin-hadoop2.7/conf

②将spark-env.sh.template复制为spark-env.sh，具体命令如下：

cp spark-env.sh.template spark-env.sh

③输入“vi spark-env.sh”命令，打开文件，在文件末尾添加如下代码：

#Jdk安装路径

export JAVA_HOME=/usr/local/jdk1.8.0_161      

#Hadoop安装路径

export HADOOP_HOME=/usr/local/hadoop-3.1.4

#Hadoop配置文件的路径                

export HADOOP_CONF_DIR=/usr/local/hadoop-3.1.4/etc/hadoop    

#Spark主节点的IP地址或机器名

export SPARK_MASTER_IP=hadoop                                                            

#Spark本地的IP地址或机器名

export SPARK_LOCAL_IP=hadoop  

技能点4：启动测试Spark集群 

①目录切换到sbin目录下启动集群。

#进入到sbin目录下
cd /usr/local/spark-3.2.1-bin-hadoop2.7/sbin

#启动spark集群

./start-all.sh

②jps查看进程。

③切换到Spark安装包的/bin目录下(cd /usr/local/spark-3.2.1-bin-hadoop2.7/bin)，使用SparkPi来计算Pi的值。

#切换到Spark安装包的/bin目录下
cd /usr/local/spark-3.2.1-bin-hadoop2.7/bin
#运行程序
./run-example SparkPi 2

技能点5：浏览器访问Spark 页面 

①关闭防火墙 输入命令“systemctl stop firewalld.service”

②打开浏览器访问Spark自带web页面 浏览器输入网址：http://192.168.15.128:8080/

③效果图如下