我们用2个节点来安装Hadoop 集群,其中192.168.129.35是主节点,而192.168.129.34是从节点。
在主节点(192.168.129.35)和从节点(192.168.129.34)上都创建一个用户叫hadoop-user
主节点(192.168.129.35)以hadoop-user登录
因为hadoop集群中需要有个主节点(master node)来承担NameNode和JobTracker守护进程,并且承担连接和激活其他从节点(slave node)的DataNode和 TaskTracker守护进程的责任。而它们的通信在Hadoop中是使用无密码的SSH,所以我们必须配置无密码的SSH。
首先验证ssh是否已经安装:
which ssh
which sshd
which ssh-keygen
主节点(192.168.129.35)上产生SSH密码对
ssh-keygen -t rsa
在主节点(192.168.129.35)上查看公钥信息:
cat ~/.ssh/id_rsa.pub
将公钥从主节点(192.168.129.35)复制到每个hadoop节点,因为我们主节点已经有,所以我们把它发布到从节点192.168.129.34上
从主节点(192.168.129.35)运行:
scp ~/.ssh/id_rsa.pub hadoop-user@192.168.129.34:~/master_key
在从节点(192.168.129.34)上将这个公钥文件移动到正确的位置:
mkdir ~/.ssh
chmod 700 ~/.ssh
mv ~/master_key ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys
在主节点(192.168.129.35)上验证无密码的ssh是否可以成功和从节点(192.168.129.34)通信
ssh 192.168.129.34
配置Hadoop:
在主节点上配置core-site.xml, mapred-site.xml, hdfs-site.xml
core-site.xml,注意hdfs后面的必须是主节点(192.168.129.35)
mapred-site.xml ,配置了map 和reduce的job的主机和端口号,所以必须是主节点 (192.168.129.35)
hdfs-site.xml,可以设置dfs的replication数量
配置集群中的主节点和从节点:
vi masters
将其改为这个主节点的ip(192.168.129.35)
vi slaves
将其改为从节点的ip列表,因为我们这里只有一个从节点(192.168.129.34),所以我们只有一行。
校验主,从节点配置:
cat masters
cat slaves
配置Hadoop环境:
vi hadoop-env.sh
找到并且编辑JAVA_HOME
更新环境变量
source hadoop-env.sh
把主节点上的所有配置都复制到从节点上:
scp ./hadoop-0.20.2.tar hadoop-user@192.168.129.34:/home/hadoop-user/
scp ./jdk1.6.0_31.tar hadoop-user@192.168.129.34:/home/hadoop-user/
启动主,从节点:
在每个节点上,分别到$HADOOP_HOME/bin中
格式化namenode
./hadoop namenode -format
启动Hadoop
./start-all.sh &
最后用$JAVA_HOME/bin 下的jps命令来检测是否被运行了
$JAVA_HOME/bin/jps
转载于:https://blog.51cto.com/supercharles888/875874