环境
- Ubuntu 14.04LTS
- jdk1.8
- Hadoop 2.5.1
- maven 3以上
配置
用户、用户组配置
sudo addgroup hadoop
sudo adduser --ingroup hadoop hduser
安装JDK
将下好的jdk-8u162-linux-x64.tar.gz
解压,将目录改名为jdk1.8
,并拷贝到/usr/local
目录下。
sudo tar -zxvf jdk-8u162-linux-x64.tar.gz
mv jdk-8u162-linux-x64.tar.gz /usr/local/jdk1.8
切换到hduser
用户下,将Java环境变量写入~/.bashrc
中。
export JAVA_HOME=/usr/local/jdk1.8
export PATH=$PATH:$JAVA_HOME/bin
测试Java是否安装成果。
java -version
安装Hadoop
在具有管理权限的用户下,解压hadoop-2.5.1.tar.gz
,改名为hadoop
并改其所属用户和用户组。
sudo tar -zxvf hadoop-2.5.1.tar.gz
mv hadoop-2.5.1.tar.gz /usr/local/hadoop
cd /usr/local
sudo chown -R hduser:hadoop hadoop
安装SSH Server
sudo apt-get install openssh-server
在hduser
下,生成密钥对
cd ~/.ssh/
ssh-keygen -t rsa
cat ./id_rsa.pub >> ./authorized_keys
设置Hadoop的环境变量,编辑~/.bashrc
export HADOOP_HOME=/usr/local/hadoop
编辑Hadoop目录下的etc/hadoop/core-site.xml
<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>file:/app/hadoop/tmp</value>
</property>
<property>
<name>fs.defaultFS