hadoop集群搭建步骤整理及事项

第一步、修改sshd_config，清空resolv.conf
vi /etc/ssh/sshd_config
找到#UseDNS yes 修改为UseDNS no
找到下面三行
RSAAuthentication yes
PubkeyAuthentication yes
AuthorizedKeysFile .ssh/authorized_keys
将注释去掉 
service sshd restart
然后保存退出service sshd restart重启服务
登陆延迟等待
vim /etc/resolv.conf 清空内容


第二步、修改主机名


/etc/sysconfig/network里面的主机名字
[root@bogon ~]#  vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=hadoop                // 在这修改 hostname 为 hadoop
修改/etc/hosts里面的名字
[root@bogon ~]#  vi /etc/hosts
127.0.0.1              hadoop
不需要重启主机,最后在终端下执行：
[root@bogon ~]# hostname hadoop     // hadoop 为修改的hostname


修改主机ip：
显示主机ip：[root@linuxsir01 ~]# hostname -i
vi /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE="eth0"
BOOTPROTO="static"        ###静态ip
HWADDR="00:0C:29:3C:BF:E7"
IPV6INIT="yes"
NM_CONTROLLED="yes"
ONBOOT="yes"
TYPE="Ethernet"
UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"
IPADDR="192.168.70.121"    ###ip地址
NETMASK="255.255.255.0"   ###子网掩码
GATEWAY="192.168.1.1"     ###网关


主机名和IP的映射关系
vim /etc/hosts (放的是主机IP)
192.168.70.121   hadoop1
192.168.70.122   hadoop2
192.168.70.123   hadoop3

第三步、关闭selinux、防火墙、配置免密钥登陆


1.关闭selinux(国外的类似iptables)
vi /etc/selinux/config
setenforce 0 暂时关闭selinux
SELINUX=disabled 在selinux配置文件内添加关闭
2.关闭防火墙
/etc/init.d/iptables stop 关闭防火墙
chkconfig iptables off 开机禁用防火墙
3.配置无密钥登陆
ssh-keygen -t dsa 生成密钥
cat id_dsa.pub >> authorized_keys 生成密钥后追加到authorized_keys
scp -r  authorized_keys  root@192.168.70.136:~/.ssh 从本地远程复制密钥传到指定计算机


第四步、安装jdk配置java环境


安装java jdk
解压jdk安装包
tar zxf jdk.tar.gz
引入PATH以及JAVA_HOME环境变量
vi /etc/profile
在末尾添加
export JAVA_HOME=/root/jdk1.7.0_40
export PATH=$JAVA_HOME/bin:$PATH
使用source生效一下
source /etc/profiel


第五步、安装配置zooekeeper集群（在5，6,7上）
1.1解压
cd /root/zookeeper-3.4.5/conf/
cp zoo_sample.cfg zoo.cfg
vim zoo.cfg
修改：dataDir=/root/zookeeper-3.4.5/tmp
在最后添加：
server.1=hadoop1:2888:3888
server.2=hadoop2:2888:3888
server.3=hadoop3:2888:3888
保存退出
然后创建一个tmp文件夹
mkdir /root/zookeeper-3.4.5/tmp
再创建一个空文件
touch /root/zookeeper-3.4.5/tmp/myid
最后向该文件写入ID
echo 1 > /root/zookeeper-3.4.5/tmp/myid
1.3将配置好的zookeeper拷贝到其他节点
scp -r /root/zookeeper-3.4.5/ hadoop2:~/
scp -r /root/zookeeper-3.4.5/ hadoop3:~/

注意：修改6、7对应/root/zookeeper-3.4.5/tmp/myid内容
6：
echo 2 > /root/zookeeper-3.4.5/tmp/myid
7：
echo 3 > /root/zookeeper-3.4.5/tmp/myid

第六步、安装配置hadoop集群
2.1解压
2.2配置HDFS（hadoop2.0所有的配置文件都在$HADOOP_HOME/etc/hadoop目录下）
#将hadoop添加到环境变量中
vi /etc/profile
export JAVA_HOME=/root/jdk1.7.0_40
export HADOOP_HOME=/root/hadoop-2.6.0
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin


2.2.1修改hadoop-env.sh
export JAVA_HOME=/root/jdk1.7.0_40

2.2.2修改core-site.xml
<configuration>
<!-- 指定hdfs的nameservice为hadoop1 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop1</value>
</property>
<!-- 指定hadoop临时目录 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/root/hadoop-2.6.0/tmp</value>
</property>
<!-- 指定zookeeper地址 -->
<property>
<name>ha.zookeeper.quorum</name>
<value>hadoop1:2181,hadoop2:2181,hadoop3:2181</value>
</property>
</configuration>

2.2.3修改hdfs-site.xml
<configuration>
<!--指定hdfs的nameservice为hadoop1，需要和core-site.xml中的保持一致 -->
<property>
<name>dfs.nameservices</name>
<value>hadoop1</value>
</property>
<!-- hadoop1下面有两个NameNode，分别是nn1，nn2 -->
<property>
<name>dfs.ha.namenodes.hadoop1</name>
<value>nn1,nn2</value>
</property>
<!-- nn1的RPC通信地址 -->
<property>
<name>dfs.namenode.rpc-address.hadoop1.nn1</name>
<value>hadoop2:9000</value>
</property>
<!-- nn1的http通信地址 -->
<property>
<name>dfs.namenode.http-address.hadoop1.nn1</name>
<value>hadoop2:50070</value>
</property>
<!-- nn2的RPC通信地址 -->
<property>
<name>dfs.namenode.rpc-address.hadoop1.nn2</name>
<value>hadoop3:9000</value>
</property>
<!-- nn2的http通信地址 -->
<property>
<name>dfs.namenode.http-address.hadoop1.nn2</name>
<value>hadoop3:50070</value>
</property>
<!-- 指定NameNode的元数据在JournalNode上的存放位置 -->
<property>
<name>dfs.namenode.shared.edits.dir</name>
<value>qjournal://hadoop1:8485;hadoop2:8485;hadoop3:8485/hadoop1</value>
</property>
<!-- 指定JournalNode在本地磁盘存放数据的位置 -->
<property>
<name>dfs.journalnode.edits.dir</name>
<value>/root/hadoop-2.6.0/journal</value>
</property>
<!-- 开启NameNode失败自动切换 -->
<property>
<name>dfs.ha.automatic-failover.enabled</name>
<value>true</value>
</property>
<!-- 配置失败自动切换实现方式 -->
<property>
<name>dfs.client.failover.proxy.provider.hadoop1</name>
<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>
<!-- 配置隔离机制方法，多个机制用换行分割，即每个机制暂用一行-->
<property>
<name>dfs.ha.fencing.methods</name>
<value>
sshfence
shell(/bin/true)
</value>
</property>
<!-- 使用sshfence隔离机制时需要ssh免登陆 -->
<property>
<name>dfs.ha.fencing.ssh.private-key-files</name>
<value>/root/.ssh/id_rsa</value>
</property>
<!-- 配置sshfence隔离机制超时时间 -->
<property>
<name>dfs.ha.fencing.ssh.connect-timeout</name>
<value>30000</value>
</property>
</configuration>

2.2.4修改mapred-site.xml
<configuration>
<!-- 指定mr框架为yarn方式 -->
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

2.2.5修改yarn-site.xml
<configuration>
<!-- 开启RM高可靠 -->
<property>
   <name>yarn.resourcemanager.ha.enabled</name>
   <value>true</value>
</property>
<!-- 指定RM的cluster id -->
<property>
   <name>yarn.resourcemanager.cluster-id</name>
   <value>yrc</value>
</property>
<!-- 指定RM的名字 -->
<property>
   <name>yarn.resourcemanager.ha.rm-ids</name>
   <value>rm1,rm2</value>
</property>
<!-- 分别指定RM的地址 -->
<property>
   <name>yarn.resourcemanager.hostname.rm1</name>
   <value>hadoop2</value>
</property>
<property>
   <name>yarn.resourcemanager.hostname.rm2</name>
   <value>hadoop3</value>
</property>
<!-- 指定zk集群地址 -->
<property>
   <name>yarn.resourcemanager.zk-address</name>
   <value>hadoop1:2181,hadoop2:2181,hadoop3:2181</value>
</property>
<property>
   <name>yarn.nodemanager.aux-services</name>
   <value>mapreduce_shuffle</value>
</property>
</configuration>


2.2.6修改slaves
hadoop1
hadoop2
hadoop3


2.2.7配置免密码登陆
#首先要配置1到1-7,2-1-7的免登陆
#在root01上生产一对钥匙（~家目录）
ssh-keygen -t rsa
#将公钥拷贝到其他节点，包括自己
#将id_rsa.pub追加到authorized_keys
ssh-coyp-id xxx

2.4将配置好的hadoop拷贝到所有其他节点
scp -r /root/hadoop-2.6.0 hadoop2:/root/

2.5启动zookeeper集群（分别在5、6、7上启动zk）
cd /root/zookeeper-3.4.5/bin/
./zkServer.sh start
#./zkServer.sh stop
#查看状态：一个leader，两个follower
./zkServer.sh status

2.6启动journalnode（分别在5、6、7上执行）
cd /root/hadoop-2.6.0
sbin/hadoop-daemon.sh start journalnode
#sbin/hadoop-daemon.sh stop journalnode
#运行jps命令检验，5、6、7上多了JournalNode进程

2.7格式化HDFS
#在1上执行命令:
./hdfs namenode -format
#格式化后会在根据core-site.xml中的hadoop.tmp.dir配置生成个文件，然后将/root/hadoop-2.6.0/tmp拷贝到2的/root/hadoop-2.6.0/下。
scp -r tmp/  hadoop3:/root/hadoop-2.6.0/

2.8格式化ZK(1上执行即可)
./hdfs zkfc -formatZK

2.9启动HDFS(1上执行)
./sbin/start-dfs.sh


2.10启动YARN
./sbin/start-yarn.sh
hadoopadmin




关机顺序
先关闭dfs.sh服务在关闭yarn.sh服务然后再关机
断电出现故障之后
删除所有节点下 ~/dfs/data 文件夹下的所有内容
删除所有节点下 ~/dfs/name 文件夹下的所有内容
删除所有节点下 ~/tmp 文件夹下的所有内容
重新初始化 namenode: 在namenode节点上hadoop安装文件夹下执行 ./bin/hdfs namenode -format
重启dfs和yarn服务 :在namenode节点上hadoop安装文件夹下执行 ./sbin/start-dfs.sh 然后执行 ./sbin/start-yarn.sh