Hadoop之——Hadoop 2.6.3动态增加/删除DataNode节点

转载请注明出处:http://blog.csdn.net/l1028386804/article/details/78255746

假设集群操作系统均为:CentOS 6.7 x64
Hadoop版本为:2.6.3

一、动态增加DataNode

1、准备新的DataNode节点机器,配置SSH互信,可以直接复制已有DataNode中.ssh目录中的authorized_keys和id_rsa
2、复制Hadoop运行目录、hdfs目录及tmp目录至新的DataNode

3、将新的DataNode节点机器的主机名或IP地址添加到Hadoop的slaves文件中
4、在新DataNode上启动hadoop

..sbin/hadoop-daemon.sh start datanode
..sbin/yarn-daemon.sh start datanode

5、在NameNode上刷新节点

..bin/hdfs dfsadmin -refreshNodes
..sbin/start-balancer.sh

6、为方便下次启动,可以将新DataNode的域名和ip加入/etc/hosts中

 

二、动态删除DataNode

1、配置NameNode的hdfs-site.xml,适当减小dfs.replication副本数,增加dfs.hosts.exclude配置

 <property>
    <name>dfs.hosts.exclude</name>
    <value>/usr/local/hadoop2/etc/hadoop/excludes</value>
  </property>

2、在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除DataNode的ip或域名
3、在NameNode上刷新所有DataNode

..bin/hdfs dfsadmin -refreshNodes
..sbin/start-balancer.sh

4、此时,可以在web检测界面(ip:50070)上可以观测到DataNode逐渐变为Dead。
 

 

发布了1314 篇原创文章 · 获赞 2031 · 访问量 517万+
展开阅读全文

没有更多推荐了,返回首页

©️2019 CSDN 皮肤主题: Age of Ai 设计师: meimeiellie

分享到微信朋友圈

×

扫一扫,手机浏览