spark集群搭建（完全分布式）

最新推荐文章于 2024-07-28 19:47:01 发布

focuson_

最新推荐文章于 2024-07-28 19:47:01 发布

阅读量1.4w

点赞数 2

分类专栏：大数据文章标签： spark

本文链接：https://blog.csdn.net/focuson_/article/details/80198880

版权

本文档详细介绍了如何在已有的Hadoop和Zookeeper集群上搭建Spark 2.3.0的完全分布式环境，强调了JDK版本要求、配置文件设置以及Master的高可用性验证，包括通过jps检查进程、Zookeeper监控路径以及Web界面状态切换等步骤。

摘要由CSDN通过智能技术生成

说明

说明1、其余的见前几篇博客，本文基于之前安装的集群安装spark，安装的节点如下（标红的为本次安装）：

机器	安装软件	进程
focuson1	zookeeper;hadoop namenode;hadoop DataNode;hbase master;hbase regionrerver;spark master;spark worker	JournalNode; DataNode; QuorumPeerMain; NameNode; NodeManager;DFSZKFailoverController；HMaster；HRegionServer;Worker;Master
focuson2	zookeeper;hadoop namenode;hadoop DataNode;yarn;hbase master;hbase regionrerver;spark master;spark worker	NodeManager;ResourceManager;JournalNode; DataNode; QuorumPeerMain; NameNode; DFSZKFailoverController；HMaster；HRegionServer;Worker;Master
focuson3	zookeeper;hadoop DataNode;yarn;hbase regionrerver;spark worker