hadoop分布式集群搭建及其常见问题

本文详细介绍了使用3台虚拟机搭建hadoop-2.8.4集群的过程,包括配置主机映射、免密登录、环境变量设置、目录权限调整、配置文件修改等关键步骤。同时,总结了datanode启动问题、hadoop页面未显示datanode、权限错误、文件权限问题等常见问题及解决方案。
摘要由CSDN通过智能技术生成

hadoop分布式集群的搭建
这里我用3台虚拟机搭建hadoop集群——分别为:mini1、mini2、mini3。hadoop版本为:hadoop-2.8.4版本。
下载地址:hadoop-2.8.4密码:nt81

  1. 配置三台虚拟机主机映射:
    修改/etc/hosts文件
#主机IP		映射名称
192.168.111.32 mini1
192.168.111.34 mini2
192.168.111.33 mini3

没有配置主机映射,则在启动集群时会报如下错误:
在这里插入图片描述
2. 配置三台虚拟机免密登录:

ssh-keygen 					#生成公钥与私钥
ssh-copy-id 映射名称			#将公钥分发给其他三台机器(包括自己)
							#分发完之后可以用ssh 主机名检查是否配置成功

若没有配置免密登录,则在启动集群时会让输所有机器的密码:
在这里插入图片描述
3. 关闭三台虚拟机防火墙机器selinux(此配置可以不改):

vim /etc/sysconfig/selinux			#linux的安全认证
修改SELINUX=disabled
service iptables status             #查看防火墙状态
service iptables stop				#关闭防火墙
chkconfig iptables off				#关闭防火墙开机自启
  1. 上传JDK安装包并解压(若已安装openjdk,请先卸载之后再装JDK),修改/etc/profile文件,添加环境变量:
    这里我解压在/usr/local目录里
rpm -qa|grep jdk    											#检查是否已经安装
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值