第九章 spark独立模式部署(Standalone)

系列文章:
第一章 Hadoop集群搭建的准备
第二章 Hadoop集群搭建
第三章 Zookeeper分布式集群部署(2n+1台虚拟机)
第四章 Hadoop高可用集群搭建(HA)
第五章 Hive的安装与配置
待更新
第九章 spark独立模式部署(Standalone)
第十章 spark配置历史服务
第十一章 搭建Spark高可用(HA)
第十二章 spark配置Yarn模式(混合部署模式)
待更新
博客推荐系统(适合初学者的javaweb+hadoop结课设计)
毕业设计 博客分享平台的设计与实现(博客推荐系统升级版、大数据组件、可视化大屏、文章查重)



一、下载安装包

   清华镜像下载连接:https://mirrors.tuna.tsinghua.edu.cn/apache/spark/spark-3.1.2/

二、上传安装包,并解压至/export/servers目录下

   进入/export/sofware/目录,用rz命令上传spark压缩包至虚拟机的/export/sofware/目录下。
   解压至/export/servers目录下:

tar -zxvf spark-3.1.2 -C /export/servers

三、修改配置文件(先进入spark-3.1.2的conf目录)

1、修改slaves文件,执行以下操作。

mv slaves_template slaves
vim slaves

   添加以下内容:

#work节点
node1
node2
node3

2、修改spark-env.sh文件,执行以下操作。

cp spark-env.sh.template spark-env.sh
vim spark-env.sh

   添加以下内容:

#添加JAVA_HOME环境变量和集群对应的master节点
export JAVA_HOME=/export/servers/jdk1.8.0
SPARK_MASTER_HOST=node1
SPARK_MASTER_PORT=7077

注意:7077端口相当于Hadoop的内部通信的9000端口,此处的端口需要确认自己的Hadoop配置

3、将配置好后的spark-3.1.2安装包分发到其他虚拟机。

scp -r /export/servers/spark-3.1.2 node2:/export/servers
scp -r /export/servers/spark-3.1.2 node3:/export/servers

4、启动集群(spark)。

   进入/export/servers/spark-3.1.2目录,执行以下命令:

#spark
sbin/start-all.sh

   查看Master资源监控Web UI界面,浏览器地址栏输入:http://node1:8080或http://192.168.1.134:8080
(Master的IP地址和端口号)

5、提交应用测试集群。

bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master spark://node1:7077 \
./examples/jars/spark-examples_2.12-3.1.2.jar \
10
  • –class 表示要执行程序的主类。
  • –master spark://node1:7077 表示独立部署模式,spark运行的环境。
  • ./examples/jars/spark-examples_2.12-3.1.2.jar 是运行类的jar包。
  • 数字10 表示命令行参数(程序的入口参数),这里用于设定当前的任务数量。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

开朗小哥

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值