vbox+ubuntu16.04.7安装配置hadoop(写给小强同学)

本文档详细介绍了如何在VirtualBox中安装Ubuntu 16.04.7,然后进行系统设置、安装SSH、配置SSH无密码登录、安装Java环境和Hadoop,最后创建Hadoop用户并验证Hadoop安装。整个过程适合初学者,提供了清晰的步骤和截图辅助理解。
摘要由CSDN通过智能技术生成

vbox+ubuntu16.04.7安装配置hadoop(写给小白)

准备工作

1.首先,下载好虚拟机vbox和ubuntu镜像文件(这里以ubuntu16.04.7为列)
vbox虚拟机
ubuntu16.04.7镜像文件

vbox中安装ubuntu系统

2.打开vbox把进行系统安装操作,步骤如下:
一:1
二:默认直接下一步默认不管直接下一步
默认不管直接下一步
默认不管直接下一步
默认不管直接下一步
三:这个就是新建好的虚拟机在这里插入图片描述
四:点击设置进行基本设置,并点击ok。更改虚拟机网卡一的连接方式
更改这两个,以便本机和虚拟机文件的互通
五:点击启动,并选择正确的镜像文件后进入ubuntu系统进行安装。点击启动
点击选择镜像文件进行注册
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
六:安装流程图如下:在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

ubuntu的基本设置及配置

1.安装增强功能:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
2.换源
搬用某大佬的换源教程,链接在此

3.vim编辑器下载:

apt-get install vim

输入y即可。
(遇到权限不够,在命令前面输sudo)

4.ssh服务的安装与使用
ssh安装请参考

5.用Xshell5远程链接ubuntu
5-1.下载好软件Xshell5在这里插入图片描述
5-2.打开ubuntu,并确保系统联网安装并开启了ssh协议,具体命令如图:
在这里插入图片描述
5-3.输入命令ifconfig查看ip地址,并记它,
在这里插入图片描述
5-4.Xshell中输入ssh test@x.x.x.x(上一步的ip地址)回车即可:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
6.创建hadoop账户
如果你安装 Ubuntu 的时候不是用的 “hadoop” 用户,那么需要增加一个名为 hadoop 的用户。

6-1.打开终端窗口,输入如下命令创建新用户 :

sudo useradd -m hadoop -s /bin/bash

Shell 命令
这条命令创建了可以登陆的 hadoop 用户,并使用 /bin/bash 作为 shell。

6-2.接着使用如下命令设置密码,可简单设置为 hadoop,按提示输入两次密码:

sudo passwd hadoop

6-3.切换到hadoop账户:

sudo su - hadoop

切换到某一账户都可以用此条命令

6-4.用 hadoop 用户登录后,我们先更新一下 apt,后续我们使用 apt 安装软件,如果没更新可能有一些软件安装不了。打开终端窗口,执行如下命令:

sudo apt-get update

6-5.配置SSH无密码登陆
安装后,可以使用如下命令登陆本机:

ssh localhost

此时会有如下提示(SSH首次登陆提示),输入 yes 。然后按提示输入密码 hadoop,这样就登陆到本机了。
在这里插入图片描述
但这样登陆是需要每次输入密码的,我们需要配置成SSH无密码登陆比较方便。

首先退出刚才的 ssh,就回到了我们原先的终端窗口exit,然后利用 ssh-keygen 生成密钥,并将密钥加入到授权中:

1.exit                           # 退出刚才的 ssh localhost
2.cd ~/.ssh/                     # 若没有该目录,请先执行一次ssh localhost
3.ssh-keygen -t rsa              # 会有提示,都按回车就可以
4.cat ./id_rsa.pub >> ./authorized_keys  # 加入授权

在这里插入图片描述
~的含义
在 Linux 系统中,~ 代表的是用户的主文件夹,即 “/home/用户名” 这个目录,如你的用户名为 hadoop,则 ~ 就代表 “/home/hadoop/”。 此外,命令中的 # 后面的文字是注释。

此时再用 ssh localhost 命令,无需输入密码就可以直接登陆了,如下图所示。

7.安装java环境

Java环境可选择 Oracle 的 JDK,或是 OpenJDK,按http://wiki.apache.org/hadoop/HadoopJavaVersions中说的,新版本在 OpenJDK 1.7 下是没问题的。为图方便,这边直接通过命令安装 OpenJDK 7。

sudo apt-get install openjdk-7-jre openjdk-7-jdk

JRE和JDK的区别
JRE(Java Runtime Environment,Java运行环境),是运行 Java 所需的环境。JDK(Java Development Kit,Java软件开发工具包)即包括 JRE,还包括开发 Java 程序所需的工具和类库。

安装好 OpenJDK 后,需要找到相应的安装路径,这个路径是用于配置 JAVA_HOME 环境变量的。执行如下命令:

dpkg -L openjdk-7-jdk | grep '/bin/javac'

该命令会输出一个路径,除去路径末尾的 “/bin/javac”,剩下的就是正确的路径了。如输出路径为 /usr/lib/jvm/java-7-openjdk-amd64/bin/javac,则我们需要的路径为 /usr/lib/jvm/java-7-openjdk-amd64。

接着配置 JAVA_HOME 环境变量,为方便,我们在 ~/.bashrc 中进行设置(扩展阅读: 设置Linux环境变量的方法和区别):

vim ~/.bashrc

在文件最前面添加如下单独一行(注意 = 号前后不能有空格),将“JDK安装路径”改为上述命令得到的路径,并保存:

export  JAVA_HOME=JDK安装路径

export HADOOP_HOME=/usr/local/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
在/usr/local/hadoop/etc/hadoop/hadoop-env.sh添加

export  JAVA_HOME=JDK安装路径

接着还需要让该环境变量生效,执行如下代码:

source ~/.bashrc    # 使变量设置生效

设置好后我们来检验一下是否设置正确:

echo $JAVA_HOME     # 检验变量值
java -version
$JAVA_HOME/bin/java -version  # 与直接执行 java -version 一样

如果设置正确的话,$JAVA_HOME/bin/java -version 会输出 java 的版本信息,且和 java -version 的输出结果一样,这样,Hadoop 所需的 Java 运行环境就安装好了。

8.安装 Hadoop 2

Hadoop 2 可以通过 http://mirror.bit.edu.cn/apache/hadoop/common/ 或者 http://mirrors.cnnic.cn/apache/hadoop/common/ 下载,一般选择下载最新的稳定版本,即下载 “stable” 下的hadoop-2.x.y.tar.gz 这个格式的文件,这是编译好的,另一个包含 src 的则是 Hadoop 源代码,需要进行编译才可使用。

下载时强烈建议也下载 hadoop-2.x.y.tar.gz.mds 这个文件,该文件包含了检验值可用于检查 hadoop-2.x.y.tar.gz 的完整性,否则若文件发生了损坏或下载不完整,Hadoop 将无法正常运行。

本文涉及的文件均通过浏览器下载,默认保存在 “下载” 目录中(若不是请自行更改 tar 命令的相应目录)。另外,本教程选择的是 2.6.0 版本,如果你用的不是 2.6.0 版本,则将所有命令中出现的 2.6.0 更改为你所使用的版本。

 1. cat ~/下载/hadoop-2.6.0.tar.gz.mds | grep 'MD5' # 列出md5检验值
 2. # head -n 6 ~/下载/hadoop-2.7.1.tar.gz.mds # 2.7.1版本格式变了,可以用这种方式输出
 3. md5sum ~/下载/hadoop-2.6.0.tar.gz | tr "a-z" "A-Z" # 计算md5值,并转化为大写,方便比较

若文件不完整则这两个值一般差别很大,可以简单对比下前几个字符跟后几个字符是否相等即可,如下图所示,如果两个值不一样,请务必重新下载。

检验文件完整性检验文件完整性
我们选择将 Hadoop 安装至 /usr/local/ 中:

sudo tar -zxf ~/下载/hadoop-2.6.0.tar.gz -C /usr/local    # 解压到/usr/local中
cd /usr/local/
sudo mv ./hadoop-2.6.0/ ./hadoop            # 将文件夹名改为hadoop
sudo chown -R hadoop ./hadoop       # 修改文件权限

Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用,成功则会显示 Hadoop 版本信息:

cd /usr/local/hadoop
./bin/hadoop version

相对路径与绝对路径的区别
请务必注意命令中的相对路径与绝对路径,本文后续出现的 ./bin/…,./etc/… 等包含 ./ 的路径,均为相对路径,以 /usr/local/hadoop 为当前目录。例如在 /usr/local/hadoop 目录中执行./bin/hadoop version 等同于执行/usr/local/hadoop/bin/hadoop version。可以将相对路径改成绝对路径来执行,但如果你是在主文件夹 ~ 中执行./bin/hadoop version,执行的会是/home/hadoop/bin/hadoop version,就不是我们所想要的了。

END
第一次安装这个hadoop,加之很久没用linux了,借鉴了很多大佬的教程,大恩不言谢!!!

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值