ubuntu虚拟机搭建hadoop+spark+zookeeper+hbase+kafka环境

本文详细介绍了如何在Ubuntu虚拟机上搭建Hadoop、Spark、Zookeeper、HBase和Kafka环境。从安装Ubuntu系统开始,通过配置SSH、安装JDK、Scala,到分别安装和配置Hadoop、Spark、Zookeeper、HBase和Kafka,每个步骤都提供了详细的操作指南,包括解压软件、配置环境变量、设置无密码登录等。此外,还特别强调了软件启动顺序和依赖关系,如启动Kafka前需先启动Zookeeper。
摘要由CSDN通过智能技术生成

ubuntu虚拟机搭建hadoop+spark+zookeeper+hbase+kafka环境

(由于此文准备仓促,故推荐另一篇【重制版】https://blog.csdn.net/szk171848581/article/details/109299441)

(由于此文准备仓促,故推荐另一篇【重制版】https://blog.csdn.net/szk171848581/article/details/109299441)

(由于此文准备仓促,故推荐另一篇【重制版】https://blog.csdn.net/szk171848581/article/details/109299441)

一. 准备工作(软件所需及作用)

1.1- vmware安装包,ubuntu系统 --> 搭建虚拟机环境
1.2- jdk --> 安装java环境
1.3- xshell --> 本机可以连接虚拟机,可选择其他
1.4- scala --> 虚拟机用到的编程环境,可选择其他
1.5- hadoop --> 搭建hadoop环境
1.6- spark --> 搭建spark环境
1.7- hbase --> 搭建hbase环境
1.8- zookeeper --> 搭建zookeeper环境
1.9- kafka --> 搭建kafka环境
注- (软件如有需,文章后面会有网盘链接
流程大致说明:为了简化操作,选用了图形版ubuntu,spark环境最终形式,1个主机(master)2个从机(slave1,slave2),由于虚拟机支持克隆操作,可以先配置好master,然后进行克隆并修改相关目录以简化重复操作。
在这里插入图片描述
在这里插入图片描述

二. ubuntu虚拟机搭建

2.1 下载并运行vmware安装程序,并输入激活码

2.2 vm工具栏简单介绍

文件 --> 创建新虚拟机
编辑 --> 管理虚拟机的网络,ip等
虚拟机 --> 管理虚拟机的启动,挂起,安装vmware tools等

在这里插入图片描述

三. ubuntu系统的安装

3.1 启动vmware软件,点击‘文件’,选择‘新建虚拟机’,选择安装镜像文件。

在这里插入图片描述

3.2 新建名称,用户名等(建议,配置某台机器比如master,涉及到名字,用户名就填master,遇到密码就全设置一样的,避免用户名和密码过多记忆混乱)

在这里插入图片描述

3.3 选择ubuntu的路径进行安装

在这里插入图片描述

3.4 设置虚拟机名称及在本机的存放位置。(涉及名称,建议如上)

在这里插入图片描述

3.5 如无特殊需求,保持默认即可,继续点击,等待完成系统安装

在这里插入图片描述

四. 按理说,这步应该装vmware tools,如果使用命令行不影响操作,可以不装,但是由于后面要使用windows和ubuntu共享文件夹,这里简单介绍vmware tools安装。

4.1 如果是第一次安装虚拟机并安装系统,这里的‘安装vmware tools’是可以点击的,直接点击按照提示安装即可。

在这里插入图片描述

4.2 如果不是,那么就像下图一样,是灰色的,就需要从linux镜像中导入。下面讲解具体操作

在这里插入图片描述

4.3 更改iso获取vmware tools

在这里插入图片描述
在这里插入图片描述
点击确定之后,需要重启客户机(虚拟机)。
重启查看是否可以安装vmware tools

五. 配置Linux虚拟机SSH

5.1 首先更新一下"apt",执行以下的指令。

sudo apt-get update

5.2 下载安装vim。

sudo apt-get install vim

5.3 安装SSH并配置无密码登入。

5.3.1 输入如下指令,安装SSH。

sudo apt-get install openssh-server

5.3.2 配置无密码登入。

ssh localhost
cd ~/.ssh/
ssh-keygen -t rsa
cat ./id_rsa.pub >> ./authorized_keys
chmod 700 ~/.ssh
chmod 644 ~/.ssh/authorized_keys

这里需要设置一下主机名和ip的对应关系,使用‘ifconfig’命令查看主机和从机的ip:
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值