集群中现有的计算能力不足,需要另外添加新的节点时,使用如下方法就能动态增加新的节点:
1、在新的节点上安装hadoop程序,一定要控制好版本,可以从集群上其他机器cp一份修改也行
2、把namenode的相关配置文件复制到该节点
3、修改masters和slavers文件,增加节点
4、设置ssh免密码登录该节点
5、单独启动该节点上的datanode和tasktracker守护进程,启动命令如下:
hadoop -daemon.sh start datanode\tasktracker
6、下次操作hdfs时,就可将数据写到该机器上,如果想使得节点间的负载均衡,可使用一下命令:
start-balancer.sh ,备注:负载均衡视集群规模大小耗时,如果正在运行较重的任务或者任务队列等待任务较多时不宜使用。
以上命令均在/hadoop/bin 目录下执行。