hadoop集群中动态增加新的DataNode节点

集群中现有的计算能力不足,需要另外添加新的节点时,使用如下方法就能动态增加新的节点:

1、在新的节点上安装hadoop程序,一定要控制好版本,可以从集群上其他机器cp一份修改也行

2、把namenode的相关配置文件复制到该节点

3、修改masters和slavers文件,增加节点

4、设置ssh免密码登录该节点

5、单独启动该节点上的datanode和tasktracker守护进程,启动命令如下:

hadoop -daemon.sh start datanode\tasktracker

6、下次操作hdfs时,就可将数据写到该机器上,如果想使得节点间的负载均衡,可使用一下命令:

start-balancer.sh ,备注:负载均衡视集群规模大小耗时,如果正在运行较重的任务或者任务队列等待任务较多时不宜使用。

以上命令均在/hadoop/bin 目录下执行。

发布了35 篇原创文章 · 获赞 3 · 访问量 11万+
展开阅读全文

没有更多推荐了,返回首页

©️2019 CSDN 皮肤主题: 大白 设计师: CSDN官方博客

分享到微信朋友圈

×

扫一扫,手机浏览