ubuntu虚拟机搭建hadoop+spark+zookeeper+hbase+kafka环境
(由于此文准备仓促,故推荐另一篇【重制版】https://blog.csdn.net/szk171848581/article/details/109299441)
(由于此文准备仓促,故推荐另一篇【重制版】https://blog.csdn.net/szk171848581/article/details/109299441)
(由于此文准备仓促,故推荐另一篇【重制版】https://blog.csdn.net/szk171848581/article/details/109299441)
一. 准备工作(软件所需及作用)
1.1- vmware安装包,ubuntu系统 --> 搭建虚拟机环境
1.2- jdk --> 安装java环境
1.3- xshell --> 本机可以连接虚拟机,可选择其他
1.4- scala --> 虚拟机用到的编程环境,可选择其他
1.5- hadoop --> 搭建hadoop环境
1.6- spark --> 搭建spark环境
1.7- hbase --> 搭建hbase环境
1.8- zookeeper --> 搭建zookeeper环境
1.9- kafka --> 搭建kafka环境
注- (软件如有需,文章后面会有网盘链接)
流程大致说明:为了简化操作,选用了图形版ubuntu,spark环境最终形式,1个主机(master)2个从机(slave1,slave2),由于虚拟机支持克隆操作,可以先配置好master,然后进行克隆并修改相关目录以简化重复操作。
二. ubuntu虚拟机搭建
2.1 下载并运行vmware安装程序,并输入激活码
2.2 vm工具栏简单介绍
文件 --> 创建新虚拟机
编辑 --> 管理虚拟机的网络,ip等
虚拟机 --> 管理虚拟机的启动,挂起,安装vmware tools等
三. ubuntu系统的安装
3.1 启动vmware软件,点击‘文件’,选择‘新建虚拟机’,选择安装镜像文件。
3.2 新建名称,用户名等(建议,配置某台机器比如master,涉及到名字,用户名就填master,遇到密码就全设置一样的,避免用户名和密码过多记忆混乱)
3.3 选择ubuntu的路径进行安装
3.4 设置虚拟机名称及在本机的存放位置。(涉及名称,建议如上)
3.5 如无特殊需求,保持默认即可,继续点击,等待完成系统安装
四. 按理说,这步应该装vmware tools,如果使用命令行不影响操作,可以不装,但是由于后面要使用windows和ubuntu共享文件夹,这里简单介绍vmware tools安装。
4.1 如果是第一次安装虚拟机并安装系统,这里的‘安装vmware tools’是可以点击的,直接点击按照提示安装即可。
4.2 如果不是,那么就像下图一样,是灰色的,就需要从linux镜像中导入。下面讲解具体操作
4.3 更改iso获取vmware tools
点击确定之后,需要重启客户机(虚拟机)。
重启查看是否可以安装vmware tools
五. 配置Linux虚拟机SSH
5.1 首先更新一下"apt",执行以下的指令。
sudo apt-get update
5.2 下载安装vim。
sudo apt-get install vim
5.3 安装SSH并配置无密码登入。
5.3.1 输入如下指令,安装SSH。
sudo apt-get install openssh-server
5.3.2 配置无密码登入。
ssh localhost
cd ~/.ssh/
ssh-keygen -t rsa
cat ./id_rsa.pub >> ./authorized_keys
chmod 700 ~/.ssh
chmod 644 ~/.ssh/authorized_keys
这里需要设置一下主机名和ip的对应关系,使用‘ifconfig’命令查看主机和从机的ip: