1、http://blog.csdn.net/ab198604/article/details/8250461
2、http://www.cnblogs.com/laov/p/3421479.html
3、针对2.7.3:https://i-blog.csdnimg.cn/blog_migrate/d7f472ebc6250732b873996f7a0df003.png
(此教程中ssh自动登录
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
出现no such file是因为原代码中文件名写错了,应为
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
)
安装过程中不可使用 chmod 777 /usr配权限,该操作会导致 sudo无法使用:sudo: /usr/lib/sudo/sudoers.so 必须只对其所有者可写
解决方法是:
pkexec chmod go-w /usr/lib/sudo/sudoers.so
见http://blog.51cto.com/zhang916/1323175 http://stackoverflow.com/questions/11094826/how-to-give-a-linux-user-sudo-access
以下内容转载自:https://i-blog.csdnimg.cn/blog_migrate/d7f472ebc6250732b873996f7a0df003.png
这几天在学习Hadoop相关的东西,前些时候,搭建了单机和伪分布式的集群。但是在搭建完全分布式集群的时候遇到很多问题,网上找到很多文章,感觉都有些差别,因此,再次汇总一下,把我的详细的搭建过程记录下来。
参考了很多篇文章:http://www.w2bc.com/Article/19645
http://blog.csdn.NET/weixuehao/article/details/15813681
http://www.07net01.com/2015/07/874408.html
https://my.oschina.Net/voyage1314/blog/262392
......
环境配置:
虚拟机:
vmware workstation 12
系统:
ubuntu 16.04 LTS(推荐使用原版,不要用kylin)
节点:
192.168.159.132 master
192.168.159.134 node1
192.168.159.137 node2
jdk-8u101-Linux-x64.gz (Java )
hadoop-2.7.3.tar.gz (Hadoop 包)
安装步骤:
1、安装虚拟机系统,并进行准备工作(可安装一个然后克隆)
2.修改各个虚拟机的hostname和host
3.创建用户组和用户
4、配置虚拟机网络,使虚拟机系统之间以及和host主机之间可以通过相互ping通。
5.安装jdk和配置环境变量,检查是否配置成功
6、配置ssh,实现节点间的无密码登录 ssh node1/2指令验证时候成功
7、master配置hadoop,并将hadoop文件传输到node节点
8、配置环境变量,并启动hadoop,检查是否安装成功,执行wordcount检查是否成功。
1.安装虚拟机
#修改hostname的指令:
sudo gedit /etc/hostname
#修改hosts指令:
sudo gedit /etc/hosts
#将以下内容添加到hosts中
192.168.159.132 master
192.168.159.134 node1
192.168.159.137 node2
如下图所示:
3.创建用户和用户组(三台机器上都要操作)
1. 创建hadoop用户组
sudo addgroup hadoop
2. 创建hadoop用户
sudo adduser -ingroup hadoop hadoop
3. 给hadoop用户添加权限,打开/etc/sudoers文件
按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限
在root ALL=(ALL:ALL) ALL下添加hadoop ALL=(ALL:ALL) ALL
4.检验各个主机之间能否连通
ping +主机名
5.安装jdk和配置环境变量
1)下载jdk安装包(自行百度),并将安装包拖入到虚拟机当中
2)通过cd命令进入到安装包的当前目录,利用如下命令进行解压缩。
tar -zxvf jdk.....(安装包名称)
3)利用如下命令将解压后的文件夹移到/usr目录下
#注意,这样移动到/usr以后就没有jdk1.8...这个目录了,是将这个目录下的所有文件全部移动到/usr/java下,
mv jdk1.8...(文件夹名称) /usr/java
4)配置环境变量
sudo gedit /etc/profile
在末尾加上四行:
- #java
- export JAVA_HOME=/usr/java
- export JRE_HOME=/usr/java/jre
- export CLASSPATH=$JAVA_HOME/lib
- export PATH=:$PATH:$JAVA_HOME/bin:$JRE_HOME/bin
输入如下命令使配置生效:source /etc/profile
查看配置是否成功,
出现如上信息说明Java配置成功。
6.配置SSH,实现节点间的无密码登录
1..安装ssh
- sudo apt-get install openssh-server
已有ssh或者安装成功了的输入命令
- ps -e | grep ssh
验证SSH是否成功安装输入
- ssh localhost
出现以下提示说明安装成功
3.生成密钥Pair
ssh-keygen -t rsa
输入之后一直选择enter即可。生成的秘钥位于 ~/.ssh文件夹下。可用cd 命令进入查看。
4.在master上,导入authorized_keys
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
5.远程无密码登录(把master上的authorized_keys拷贝到其他主机的相应目录下)
#进入master的.ssh目录,执行复制操作
scp authorized_keys hadoop@node1:~/.ssh/
scp authorized_keys hadoop@node2:~/.ssh/
修改各台主机上authorized_keys文件的权限:
所有机器上,均执行命令:
chmod 600 .ssh/authorized_keys
完成之后,在master上执行下面操作,检查免密码登录是否成功。
ssh node1(node2)
7.master配置hadoop,然后将master的hadoop文件传送给node节点
1)解包移动
- #解压hadoop包
- tar -zxvf hadoop...
- #将安装包移到/usr目录下
- mv hadoop... /usr/hadoop
2)新建文件夹
- #在/usr/hadoop目录下新建如下目录(root)
- mkdir /dfs
- mkdir /dfs/name
- mkdir /dfs/data
- mkdir /tmp
3)配置文件:hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中)
修改JAVA_HOME值(export JAVA_HOME=/usr/java)修改JAVA_HOME值(export JAVA_HOME=/usr/java)
5)配置文件:slaves
将内容修改为:
node1
node2
6)配置文件:core-site.xml
- <configuration>
- <property>
- <name>fs.defaultFS</name>
- <value>hdfs://master:9000</value>
- </property>
- <property>
- <name>io.file.buffer.size</name>
- <value>131072</value>
- </property>
- <property>
- <name>hadoop.tmp.dir</name>
- <value>file:/usr/hadoop/tmp</value>
- <description>Abase for other temporary directories.</description>
- </property>
- </configuration>
7)配置文件:hdfs-site.xml
- <configuration>
- <property>
- <name>dfs.namenode.secondary.http-address</name>
- <value>master:9001</value>
- </property>
- <property>
- <name>dfs.namenode.name.dir</name>
- <value>file:/usr/hadoop/dfs/name</value>
- </property>
- <property>
- <name>dfs.datanode.data.dir</name>
- <value>file:/usr/hadoop/dfs/data</value>
- </property>
- <property>
- <name>dfs.replication</name>
- <value>2</value>
- </property>
- <property>
- <name>dfs.webhdfs.enabled</name>
- <value>true</value>
- </property>
- </configuration>
8)配置文件:mapred-site.xml
先创建然后编辑
cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml
gedit etc/hadoop/mapred-site.xml
- <configuration>
- <property>
- <name>mapreduce.framework.name</name>
- <value>yarn</value>
- </property>
- <property>
- <name>mapreduce.jobhistory.address</name>
- <value>master:10020</value>
- </property>
- <property>
- <name>mapreduce.jobhistory.webapp.address</name>
- <value>master:19888</value>
- </property>
- </configuration>
9)配置文件:yarn-site.xml
- <configuration>
- <property>
- <name>yarn.nodemanager.aux-services</name>
- <value>mapreduce_shuffle</value>
- </property>
- <property>
- <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
- <value>org.apache.hadoop.mapred.ShuffleHandler</value>
- </property>
- <property>
- <name>yarn.resourcemanager.address</name>
- <value>master:8032</value>
- </property>
- <property>
- <name>yarn.resourcemanager.scheduler.address</name>
- <value>master:8030</value>
- </property>
- <property>
- <name>yarn.resourcemanager.resource-tracker.address</name>
- <value>master:8031</value>
- </property>
- <property>
- <name>yarn.resourcemanager.admin.address</name>
- <value>master:8033</value>
- </property>
- <property>
- <name>yarn.resourcemanager.webapp.address</name>
- <value>master:8088</value>
- </property>
- </configuration>
10)将hadoop传输到node1和node2 usr/hadoop目录,(如果传输时报错说 :权限拒绝,先把文件传送到非/usr目录下,然后在node上把这个文件再移动到/usr/hadoop)
scp -r /usr/hadoop hadoop@node1:/usr/hadoop
7、配置环境变量,并启动hadoop,检查是否安装成功
1)配置环境变量
#编辑/etc/profile sudo gedit /etc/profile #以上已经添加过java的环境变量,在后边添加就可以
- #hadoop
- export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2
- export PATH=$PATH:$HADOOP_HOME/sbin
- export PATH=$PATH:$HADOOP_HOME/bin
执行
source /etc/profile
使文件生效。
2)启动hadoop,进入hadoop安装目录
bin/hdfs namenode -format
sbin/start-all.sh
3)启动后分别在master, node下输入jps查看进程
看到下面的结果,则表示成功。
Master:
node:
8.向hadoop集群系统提交第一个mapreduce任务(wordcount)
进入本地hadoop目录(/usr/hadoop)
1、 bin/hdfs dfs -mkdir -p /data/input在虚拟分布式文件系统上创建一个测试目录/data/input
2、 hdfs dfs -put README.txt /data/input 将当前目录下的README.txt 文件复制到虚拟分布式文件系统中
3、 bin/hdfs dfs-ls /data/input 查看文件系统中是否存在我们所复制的文件
如图操作:
3、 运行如下命令向hadoop提交单词统计任务
进入jar文件目录,执行下面的指令。
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /data/input /data/output/result
查看result,结果在result下面的part-r-00000中
hdfs dfs -cat /data/output/result/part-r-00000
自此,hadoop集群搭建成功!