Hadoop3.1.1完全分布式集群部署流程

本文详细介绍了如何部署Hadoop3.1.1的完全分布式集群,包括准备工作,如添加hosts、安装JVM和设置SSH免密登陆;接着是Hadoop的安装和配置,涉及多个配置文件的修改;最后是启动Hadoop并验证安装成功。通过这个流程,读者可以了解完整的Hadoop集群搭建步骤。
摘要由CSDN通过智能技术生成

1.准备工作

两台虚拟机(我是用的是ubuntu18.04版本)

1.1 添加hosts

sudo su         #获取管理员权限,默认后面的代码都已获取过该权限
vim etc/hosts

进入后添加servera和serverb以及相应的ip
这里写图片描述
servera为master,serverb为worker
(注:只是方便以后配置hadoop使用)

1.2 安装jvm

去Oracle官网下载jdk1.8(我下的是jdk-8u181-linux-x64.tar.gz)
在/usr/lib目录下新建jvm文件夹
cd /usr/lib
mkdir jvm
将下载好的压缩包解压到/usr/lib/jvm
tar zxvf /你存放jdk压缩包的位置/jdk-8u181-linux-x64.tar.gz -C /usr/lib/jvm 
在环境变量文件中配置JAVA_HOME
vim ~/.bashrc

添加

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_181
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

保存退出后,执行

source ~/.bashrc
echo $JAVA_HOME

输出工作目录验证是否正确

1.3 ssh设置免密登陆

自身免密登陆设置
sudo apt-get install openssh-server
cd ~/.ssh/                         # 若提示无该目录,请先创建一个
ssh-keygen -t rsa                  # 一直按回车就可以了
cat id_rsa.pub >> authorized_keys  # 加入授权
ssh localhost                      # 测试本地免密登陆是否成功
master机器(servera)免密登陆worker机器设置(只需配置servera)
ssh-copy-id -i ~/.ssh/id_rsa.pub serverb

完成后测试ssh serverb 指令是否能登陆serverb
(注:若提示输入密码则说明失败,尝试手动将servera中~/.ssh/目录下的id_rsa.pub文件中的密钥复制到serverb中的~/.ssh/目录下的authorized_keys文件中)
另外,测试成功后记得执行exit 指令退出serverb


2 Hadoo

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值