Centos7下搭建Hadoop-2.8.4分布式集群

由于机器原因,只拿到了三台机器,所以就先搭3台机器,一条机器做Namenode,另外2台做DataNode。

Hadoop中的管理节点和数据节点最好分开部署

数据节点在实际运行任务时负载是比较重的,很容易影响管理示例的稳定性

下面是搭建步骤:

1 修改/etc/hosts文件

 这里说明下有的是把自己的hostname做了修改,改成啥master ,salver 1,salver2这样或者namenode,datanode1,datanode2这样的形式,但是博主因为不能修改hostname,所以直接采用的机器本身的hostname,这里只要把ip和hostname的映射关系做好,都是没有问题的。所以不必太过纠结这一个问题。

 

三台机器的配置都是一样配置的,大致就如下配置,按实际情况配:后面我就以这三个名字进行举例

192.168.9.1  namenode
192.168.9.2  datanode1
192.168.9.3  datanode2

2 三台机器都修改完后就检查下三台机之间是否都可以Ping 通 进行互联,这里命令如下

ping -c 3 datanode1

三台机器上面都要进行这样的测试,每一台都测试与另外几台机器之间是否能通 

3  免密登录,因为在后续Hadoop启动的时候会登录另外的集群,所以这里会做下三台机器之间的免密登录 

首先分别在三台机器上生成公钥 

ssh-keygen -t rsa -P ''

4 分别在三台机器上创建authorized_keys文件

touch /root/.ssh/authorized_keys

5. 检查authorized_keys文件是否生成成功

ls /root/.ssh/

6  将 三台机器id_rsa.pub中的key复制,然后三个key 都放到authorized_keys中,然后三台机器的authorized_keys文件中的内容保持一致

大致效果如上

7 检查是否能够免密登陆

ssh datanode1 

分别在三台机器上进行测试互联 

8 JDK环境检查

分别检查三台机器上的JDK环境,我这里用的JDK 版本为 jdk1.8.0_65

如果JDK需要升级大致步骤如下:

下载JDK安装包  

在/opt/java 创建java目录

然后将安装包放到该目录下,进行解压缩

 mkdir /opt/java

 tar  -zxvf   jdk-8u65-linux-x64.tar.gz

修改配置文件

vim /etc/profile

在该文件内添加如下命令&#

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值