Hadoop安装教程

SSH安装及SSH免密登录配置

1、SSH安装

   sudo apt-get install openssh-server

2、安装完成后首次登录SSH(需要输入密码)

   ssh localhost

3、退出登录

   exit

4、利用ssh-keygen生成密钥、并将其加入到授权中

   cd ~/.ssh/           # 若没有.ssh文件可输入touch .ssh创建
   ssh-keygen -t rsa    # 一直回车即可
   cat ./id_rsa.pub
   ./authorized_keys    # 加入授权

安装JDK

1、在目录/usr/lib下新建jvm目录作为jdk安装目录(安装路径可根据自己调整，下同)

cd /usr/lib
sudo mkdir jvm         # 新建jvm目录

2、进入jdk下载目录将压缩包解压到所创建的jvm目录

 sudo tar -zxvf jdk1.8.0_221.tar.gz -C /usr/lib/jvm

3、配置环境变量

cd ~             # 回到主目录
vim ~/.bashrc    # 输入以下内容
export JAVA_HOME=/usr/local/jvm/jdk1.8.0_221
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

4、执行 source ~/.bashrc 使.bashrc文件立即生效

5、输入java -version 检查是否安装成功，若出现jdk版本等信息则安装成功

安装Hadoop

1、进入hadoop安装包所在目录

sudo tar -zxvf hadoop-2.7.7.tar.gz -C /usr/local   # 将hadoop安装在解压安装在/usr/local目录下

2、修改/usr/local目录下会生成的hadoop-2.7.7目录权限

sudo chown -R user_name ./hadoop-2.7.7

3、检查hadoop是否可用，可用则会显示hadoop版本等信息(需进入到/usr/local/hadoop-2.7.7目录下)

./bin/hadoop version

Hadoop伪分布式配置

1、配置core-site.xml文件(配置文件均在/usr/local/hadoop-2.7.7/etc/hadoop目录下)

sudo vim core-site.xml    # 输入以下内容
<property>
  <name>hadoop.tmp.dir</name>
  <value>file:/usr/local/hadoop-2.7.7/tmp</value>
</property>
<property>
  <name>fs.defaultFS</name>
  <value>hdfs://localhost:9000</value>
</property>

2、配置hdfs-site.xml文件

sudo vim hdfs-site.xml    # 输入以下内容
<property>
  <name>dfs.replication</name>
  <value>1</value>
</property>
<property>
  <name>dfs.namenode.name.dir</name>
  <value>file:/usr/local/hadoop-2.7.7/tmp/dfs/name</value>
</property>
<property>
  <name>dfs.datanode.data.dir</name>
  <value>file:/usr/local/hadoop-2.7.7/tmp/dfs/data</value>
</property>
<proeprty>
  <name>dfs.permissions</name>
  <value>false</value>
</property>

3、配置yarn-site.xml文件

sudo vim core-site.xml    # 输入以下内容
<property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
</property>
<property>
  <name>yarn.nodemanager.aux-services</name>
  <value>mapreduce_shuffle</value>
</property>

4、执行NameNode的格式化(进入/usr/local/hadoop-2.7.7目录下进行)

./bin/hdfs namenode -fromat

# 若看到"successfully formatted”和“Exitting with status 0”则成功
#  若看到“Exitting with status 1”则失败

如果在这一步时提示 Error: JAVA_HOME is not set and could not be found. 的错误，则说明之前设置 JAVA_HOME 环境变量那边就没设置好，请按教程先设置好 JAVA_HOME 变量，否则后面的过程都是进行不下去的。如果已经按照前面教程在.bashrc文件中设置了JAVA_HOME，还是出现 Error: JAVA_HOME is not set and could not be found. 的错误，那么，请到hadoop的安装目录修改配置文件“/usr/local/hadoop/etc/hadoop/hadoop-env.sh”，在里面找到“export
JAVA_HOME=${JAVA_HOME}”这行，然后，把它修改成JAVA安装路径的具体地址，比如，“export JAVA_HOME=/usr/lib/jvm/default-java”，然后，再次启动Hadoop

5、进入/usr/local/hadoop-2.7.7目录，启动进程

./sbin/start-dfs.sh   # dfs可为其他进程名，也可为all(所有进程)

6、成功启动后进入浏览器输入以下内容可进入界面

http://localhost:50070
http://localhost:8088

http://localhost:50030 # 失效

若有其他问题可访问厦门大学林子雨老师：Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04
链接: http://dblab.xmu.edu.cn/blog/install-hadoop/.

jdk下载可访问Oracle官网：https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

Hadoop下载可访问Apach官网：https://hadoop.apache.org/releases.html