搭建Hadoop集群简要步骤

一、准备n台服务器(关闭防火墙、静态ip、修改好主机名称)

二、提前编写好集群分发脚本xsync

三、集群配置

1.核心配置文件:core-site.xml
	指定HDFS中NameNode的地址
	指定Hadoop运行时产生文件的存储目录
2.配置hadoop-env.sh
	jdk地址
3.配置hdfs-site.xml
	指定HDFS副本的数量
	指定Hadoop辅助名称节点主机配置
4.配置yarn-env.sh
	jdk地址
5.配置yarn-site.xml
	指定YARN的ResourceManager的地址
6.配置mapred-env.sh
	jdk地址
7.配置mapred-site.xml
	指定MR运行在Yarn上

四、在集群上分发配置好的Hadoop配置文件,使用xsync

其他机器要有对应的文件夹,才好分发

五、SSH无密登陆配置

1.进入.ssh目录 输入ssh-keygen -t rsa 生成公钥和私钥
2.将公钥拷贝到要免密登录的目标机器上	ssh-copy-id xxx
3.在NameNode和ResourceManager所在的服务器上都需要配置无密登陆

六、设置slaves

七、启动集群

1.第一次启动需要格式化NameNode	bin/hdfs namenode -format
2.启动HDFS	sbin/start-dfs.sh
3.启动YARN	sbin/start-yarn.sh
注意:NameNode和ResourceManger如果不是同一台机器,不能在NameNode上启动 YARN,应该在ResouceManager所在的机器上启动YARN。
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值