Hadoop学习之路(二):Hadoop节点的委任与解除

本文详细介绍了Hadoop集群中如何解除旧节点和委任新节点的步骤,包括修改配置文件、刷新NameNode、使用WebUI监控状态等。重点涉及dfs.hosts.exclude.txt和dfs.include.txt文件的管理和hadoop节点的服役与退役过程。
摘要由CSDN通过智能技术生成

一、节点的委任与解除简介

Hadoop集群的管理员需要经常往集群添加新节点,或者从集群移除旧的节点,为了扩大存储容量需要委任新的节点,相反地,如果需要缩小集群规模则需要解节点,或者当某个节点存在故障的风险时,需要解除该节点并且委任新的节点,从而便有了Hadoop集群节点的委任与解除(也称为节点的服役与退役)。

解除旧节点:用户将拟退出的若干个DataNode告知NameNode,Hadoop就可以在这些DataNode下线之前将该那些节点下的数据块复制到其他DataNode。

委任新节点:用户将待上线的DataNode节点告知Hadoop,并刷新NameNode,Hadoop便会将该节点加入集群。

二、使用的机器及思路过程

在本次实操中使用三台机器,hadoop000、hadoop001、hadoop002,其中hadoop000位Master,另外两台为Slave,(具体信息请移步Hadoop完全分布式搭建(附带实用集群管理脚本))。首先从集群中解除hadoop002节点,然后通过WebUI观察结果,最后再委任hadoop002并观察。委任与解除工作只在NameNode所在的主机执行,即只在hadoop000上执行

三、解除旧节点

(1). 进入$HADOOP_HOME/etc/hadoop/目录下,新建文件 dfs.hosts.exclude.txt,该文件下存放要从集群移除节点的地址或主机名,可以理解为集群的“黑名单”。新建文件dfs.include.txt,存放在急群中要运行节点的地址或主机名,可以理解为集群的“白名单”。编辑dfs.include.txt文件,加入DataNode地址或主机名,初始文件一般与Slave文件中的内容一致:
在这里插入图片描述
编辑 hdfs-site.xml,新增如下配置:

 <property>
   
  • 4
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值