基于Zookeeper搭建spark集群

本文详细介绍了如何基于Zookeeper搭建Spark集群。首先确保所有机器安装了JDK,然后在三台机器上分别搭建Zookeeper集群,包括下载、解压、配置zoo.cfg和myid文件,并启动集群。接着,下载与Hadoop版本对应的Spark,同样进行解压、配置环境变量,并修改相关配置文件。最后,在Master节点启动Spark集群,验证通过运行SparkPi案例完成搭建。
摘要由CSDN通过智能技术生成

一、前置条件

在搭建集群之前确保linux已安装JDK
三台机器分别为master、slave1、slave2

二、Zookeeper集群搭建

先从官网上下载zookeeper
https://zookeeper.apache.org/releases.html

使用rz命令将zookeeper上传到 /export/software目录(放在哪里自己喜欢就好)下,并拷贝到slave1,slave2
注意:要先在slave1、slave2创建有software目录

scp apache-zookeeper-3.6.0-bin.tar.gz slave1:/export/servers/software/

解压到 /export/servers

tar -zxvf apache-zookeeper-3.6.0-bin.tar.gz -C /export/servers/

在该解压后的目录下创建两个目录,一个是data(数据目录),一个是logs(日志目录)
在这里插入图片描述
配置zoo.cfg文件
进入conf目录下,复制zoo_sample.cfg文件并将其命名为zoo.cfg

cp zoo_sample.cfg zoo.cfg

使用vi zoo.cfg命令,在zoo.cfg中添加下面的内容

#data数据目录路径
dataDir=/export/servers/apache-zookeeper-3.6.0-bin/data
#日志目录路径
dataLogDir=/export/servers/apache-zookeeper-3.6.0-bin/logs
#
server.1=master:2888:3888
server.2=slave1:2888:3888
server.3=slave2:2888:3888

在这里插入图片描述
将已经编辑好的配置文件发送到slave1、slave2,并使用ls查看是否发送成功

scp co
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值