Hadoop环境配置

环境

使用Ubuntu16.04

创建hadoop用户

  如果你安装 Ubuntu 的时候不是用的 “hadoop” 用户，那么需要增加一个名为 hadoop 的用户。
  首先按 ctrl+alt+t 打开终端窗口，输入命令创建新用户 :

sudo useradd -m hadoop -s /bin/bash

  这条命令创建了可以登陆的 hadoop 用户，并使用 /bin/bash 作为 shell。
  设置密码为hadoop：

sudo passwd hadoop

  为 hadoop 用户增加管理员权限，方便部署：

sudo adduser hadoop sudo

更新apt

  用 hadoop 用户登录后，我们先更新一下 apt，后续我们使用 apt 安装软件，如果没更新可能有一些软件安装不了。按 ctrl+alt+t 打开终端窗口，执行如下命令：

sudo apt-get update

安装SSH，配置SSH无密码登录

  Ubuntu 默认已安装了 SSH client，此外还需要安装 SSH server：

sudo apt-get install openssh-server

  安装后使用命令登录本机：

ssh localhost

  此时会有如下提示(SSH首次登陆提示)，输入 yes 。然后按提示输入密码 hadoop，这样就登陆到本机了。
  但这样登陆是需要每次输入密码的，我们需要配置成SSH无密码登陆比较方便。
  首先退出刚才的 ssh，就回到了我们原先的终端窗口，然后利用 ssh-keygen 生成密钥，并将密钥加入到授权中：

exit

cd ~/.ssh/
ssh-keygen -t rsa
cat ./id_rsa.pub >> ./authorized_keys

  执行结果如下图：

手动安装Java环境

  下载JDK1.8的安装包jdk-8u162-linux-x64.tar.gz到本地电脑，利用Xshell传输至虚拟机内
  在Linux命令行界面中，执行如下Shell命令（注意：当前登录用户名是hadoop）：

cd /usr/lib

sudo mkdir jvm   #创建/usr/lib/jvm目录用来存放JDK文件

cd ~   #进入hadoop用户的主目录

ls

sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm    #把JDK文件解压到/usr/lib/jvm目录下

  执行结果如下图：

  JDK文件解压缩以后，可以执行如下命令到/usr/lib/jvm目录查看一下：

cd /usr/lib/jvm
ls

  执行结果如下图：

  可以看到，在/usr/lib/jvm目录下有个jdk1.8.0_162目录。
下面继续执行如下命令，设置环境变量：

cd ~
vim ~/.bashrc

  在打开文件的开头添加如下内容：

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

  保存.bashrc文件并退出vim编辑器。然后，继续执行如下命令让.bashrc文件的配置立即生效：

source ~/.bashrc

  可以使用如下命令查看是否安装成功：

java -version

  执行结果如下图：

  至此，就成功安装了Java环境。下面就可以进入Hadoop的安装。

安装Hadoop3.1.3

  下载hadoop-3.1.3.tar.gz到本地。将 Hadoop 安装至 /usr/local/ 中：

sudo tar -zxf ~/hadoop-3.1.3.tar.gz -C /usr/local    # 解压到/usr/local中

cd /usr/local/

sudo mv ./hadoop-3.1.3/ ./hadoop            # 将文件夹名改为hadoop

sudo chown -R hadoop ./hadoop       # 修改文件权限

  执行结果如下图：

  Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用，成功则会显示 Hadoop 版本信息：

cd /usr/local/hadoop

./bin/hadoop version

  执行结果如下图：

  看到以上信息hadoop的安装就成功了。