Hadoop有关理解与笔记
关于Hadoop系统中添加节点的描述错误的是()
A、新加节点上不需要有Hadoop环境
B、在NameNode节点上修改HADOOP_HOME/conf/master文件,加入NameNode主机名
C、在NameNode节点上修改HADOOP_HOME/conf/slaves文件,加入新节点名
D、建立新加节点无密码的SSH连接,运行启动命令为:/usr/local/hadoop$bin/start-all.sh
答案:A
在新加入的节点中不仅仅需要有Hadoop环境,而且需要和原来的节点拥有基本一致的环境,例如新机器上安装与集群中其他节点相同版本的jdk、hadoop等必要程序,并且安装路径最好一致,这样比较容易管理。
扩展
hadoop集群支持动态扩展,不需要停止原有集群节点就可以实现新节点的加入。
一、制作一个新节点
1、为新节点搭建hadoop环境
如果是一般情况下,将一个新物理机添加到集群中,参照集群中其他节点,在新机器上安装与集群中其他节点相同版本的jdk、hadoop等必要程序,安装路径最好一致,这样比较容易管理。
2、修改新节点主机名映射
vi /etc/hosts
在其中添加集群中各个节点的节点名与ip的映射关系
3、关闭新节点***
service iptables stop
4、配置免密登陆,使得master可以免密登陆到新节点
二、修改集群中全部节点配置文件
1、为集群中全部节点配置slaves
修改 ${HADOOP_HOME}/etc/slaves 文件,进入hadoop安装目录,在文件中添加新节点主机名
vi etc/hadoop/slaves
添加内容:
hadoop3
2、复制集群中slave节点的配置文件到新节点的配置文件中,使用scp即可
scp -r /hadoop安装目录/etc hadoop3:/hadoop安装目录(如/usr/local/hadoop/)
三、单独启动新节点
在新节点上执行单个启动命令
转载于https://www.cnblogs.com/Jing-Wang/p/10772862.html