Hadoop的集群搭建

本文详细介绍了如何搭建Hadoop集群,包括虚拟机环境准备、JDK安装、Hadoop安装、集群配置(重点是NameNode、DataNode的设置和文件分发)以及集群启动和SSH无密登录配置。通过这些步骤,你可以成功构建一个多节点的Hadoop集群。
摘要由CSDN通过智能技术生成

目录

 一、虚拟机环境准备

二、安装jdk

三、安装Hadoop

四、集群配置(重点)

1.集群部署规划

2.配置集群

3.配置集群中从节点信息(datanode)

4.分发文件

五、集群启动

常用集群启动停止方式

SSH无密登录配置

检验:


 一、虚拟机环境准备

1、克隆三台虚拟机       

   

2、修改主机名 /etc/sysconfig/network  

然后重启主机名分别为:hadoop101;hadoop102;hadoop103;

3、根据自己的网关修改克隆虚拟机的静态ip,分别为:

IP分别为:192.168.5.101;192.168.5.102;192.168.5.103

4、配置主机名和IP的映射关系(便于使用主机名访问虚拟机

[root@ hadoop101桌面]# vim /etc/hosts

添加如下内容

192.168.1.101 hadoop101

192.168.1.102 hadoop102

192.168.1.103 hadoop103

5、修改window7的主机映射文件(hosts文件)

进入C:\Windows\System32\drivers\etc路径

打开hosts文件并添加如下内容

192.168.5.101 hadoop101

192.168.5.102 hadoop102

192.168.5.103 hadoop103

6、关闭防火墙 service iptables stop;chkconfig iptables off

二、安装jdk

点链接查看

三、安装Hadoop

点击查看

四、集群配置(重点)

1.    集群部署规划

 

hadoop101

hadoop102

hadoop103

HDFS

 

NameNode

DataNode

 

DataNode

SecondaryNameNode

DataNode

YARN

 

NodeManager

ResourceManager

NodeManager

 

NodeManager

2、配置集群

(1)核心配置文件:core-site.xml(hdfs的核心配置文件)

                            作用:决定谁是namenode

[root@hadoop101 hadoop]$ vim core-site.xml

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值