【大数据实验】01. 在Window10中使用VirtualBox中安装Ubuntu20.04开发环境

【大数据实验】01. 在Window10中使用VirtualBox中安装Ubuntu20.04开发环境

完成时间：2020-0827至2020-0828
参考资料：
1.厦门大学数据库实验室 http://dblab.xmu.edu.cn/blog/2441-2/
2.厦门大学慕课《大数据技术原理与应用》http://www.icourse163.org/course/XMU-1002335004#/info

主机的开发环境： 华为 MagicBook，Windows10。

虚拟软件： VirtualBox 6.1.12

虚拟机的操作系统： Ubuntu20.04.1 LTS

一、安装VirtualBox

VirtualBox 是一款开源虚拟机软件。VirtualBox 是由德国 Innotek 公司开发，由Sun Microsystems公司出品的软件，使用Qt编写，在 Sun 被 Oracle 收购后正式更名成 Oracle VM VirtualBox。Innotek 以 GNU General Public License (GPL) 释出 VirtualBox，并提供二进制版本及 OSE 版本的代码。使用者可以在VirtualBox上安装并且执行Solaris、Windows、DOS、Linux、OS/2 Warp、BSD等系统作为客户端操作系统。
1.下载
从 https://www.virtualbox.org/wiki/Downloads 下载：
VirtualBox 6.1.12 platform packages for Windows hosts，得到 VirtualBox-6.1.12-139181-Win.exe 文件。
2.安装
双击该文件，安装到 D:\Program Files目录下。

二、安装Ubuntu 20.04.1 LTS

1.下载 iso 文件
从 https://ubuntu.com/download/desktop 下载 Ubuntu 20.04.1 LTS 得到 ubuntu-20.04.1-desktop-amd64.iso 文件。

2.安装 Ubuntu到虚拟机
Step1. 在VirtualBox中新建 Ubuntu-64bit类型的虚拟机，命名为 Ubuntu20.04-dsj。注意，将存储配置为40GB。
Step2. 将ubuntu-20.04.1-desktop-amd64.iso文件添加到该虚拟机的虚拟光盘。
Step3. 启动该虚拟机，安装Ubuntu20.04。

3. 登录Ubuntu
林子雨的教程中为ubuntu添加了 名为hadoop的用户。这里我们不用额外添加hadoop用户，而是直接使用安装ubuntu操作系统时建立的用户：dsj。

4. 更新 apt
使用dsj登录ubuntu后，按 ctrl+alt+t 打开终端窗口，执行如下命令：
sudo apt-get update
更新一下 apt，后续我们使用 apt 安装软件，如果没更新可能有一些软件安装不了。

5.安装VirtualBox Guest Additions，设置共享文件夹

参考阅读：VirtualBox 的帮助文档
The Oracle VM VirtualBox Guest Additions for all supported guest operating systems are provided as a single CD-ROM image file which is called VBoxGuestAdditions.iso.
This image file is located in the installation directory of Oracle VM VirtualBox. （映象文件位于VirtualBox的安装目录下）
To install the Guest Additions for a particular VM, you mount this ISO file in your VM as a virtual CD-ROM and install from there.

需要先安装VirtualBox Guest Additions，才能在主机和虚拟机之间共享文件夹。
操作方法：
step1. 在虚拟机窗口，依次点击：设备->分配光驱->添加虚拟光盘
然后系统弹出窗口，提示是否自动运行光盘中的软件，点击 Run，开始自动运行。

首次安装时遇到了下图提示信息：

上述提示信息表明：”ubuntu系统中缺少 gcc、make、perl工具包。
打开终端，执行：
sudo apt-get install gcc
sudo apt-get install make
sudo apt-get install perl
先把gcc、make、perl安装上。
然后再重新安装VirtualBox Guest Additions。

Step2. VirtualBox 管理器中，选中目标虚拟机，点击设置，设置共享文件夹的名称、路径、挂载点。

Step3. 安装完成后，重新启动虚拟机。

6.安装SSH、配置SSH无密码登陆
集群、单节点模式都需要用到 SSH 登陆（类似于远程登陆，你可以登录某台 Linux 主机，并且在上面运行命令），Ubuntu 默认已安装了 SSH client，此外还需要安装 SSH server：
在命令终端里执行：sudo apt-get install openssh-server

安装后，可以使用如下命令登陆本机：ssh localhost
SSH首次登陆时会有如下提示，输入 yes 。然后按提示输入用户dsj的密码，就登陆到本机了。

但这样登陆是需要每次输入密码的，我们需要配置成SSH无密码登陆比较方便。

首先退出刚才的 ssh，就回到了我们原先的终端窗口，然后利用 ssh-keygen 生成密钥，并将密钥加入到授权中：
exit #退出刚才的 ssh localhost
cd ~/.ssh/ #若没有该目录，请先执行一次ssh localhost
ssh-keygen -t rsa #会有提示，都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys #加入授权
此时再用 ssh localhost 命令，无需输入密码就可以直接登陆了。

7.安装 Visual Studio Code编辑器
去 官网 https://code.visualstudio.com/ 下载 .deb版本的vs code，
得到文件code_1.48.2-1598353430_amd64.deb，
双击该文件，进行安装。

8.安装Java环境
Hadoop3.1.3需要JDK版本在1.8及以上。我们按照林子雨介绍的步骤来手动安装JDK1.8。

从林子雨的百度网盘https://pan.baidu.com/s/1gbmPBXrJDCxwqPGkfvX5Xg （提取码：lnwl）下载JDK1.8的安装包 jdk-8u162-linux-x64.tar.gz，下载后的文件保存在 /home/dsj/Downloads/ 目录下。
在命令终端中，执行：
cd /usr/lib
sudo mkdir jvm #创建/usr/lib/jvm目录用来存放JDK文件
cd ~ #进入用户的主目录
cd Downloads #注意区分大小写字母，JDK安装包jdk-8u162-linux-x64.tar.gz存放于该目录下
sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm #把JDK文件解压到/usr/lib/jvm目录下

JDK文件解压缩以后，可以执行如下命令到/usr/lib/jvm目录查看一下：
cd /usr/lib/jvm
ls
可以看到，在/usr/lib/jvm目录下有个jdk1.8.0_162目录。

使用Visual Studio Code打开 ~/.bashrc文件，该文件是dsj用户的环境变量配置文件。
在这个文件的开头位置，添加如下几行内容，设置Java环境变量：
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

保存.bashrc文件，然后，继续在命令终端执行如下命令让.bashrc文件的配置立即生效：
source ~/.bashrc
然后可以使用如下命令查看是否安装成功：
java -version
在屏幕上返回如下信息，则说明安装成功：

三、安装 Hadoop3.1.3

到Hadoop官网 https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.1.3/hadoop-3.1.3.tar.gz
下载Hadoop的安装文件：hadoop-3.1.3.tar.gz。
我们按照林子雨的操作，选择将 Hadoop 安装至 /usr/local/ 中：
sudo tar -zxf ~/Downloads/hadoop-3.1.3.tar.gz -C /usr/local # 解压到/usr/local中
cd /usr/local/
sudo mv ./hadoop-3.1.3/ ./hadoop # 将文件夹名改为hadoop
sudo chown -R dsj./hadoop # 修改文件权限

Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用，成功则会显示 Hadoop 版本信息：
cd /usr/local/hadoop
./bin/hadoop version

四、Hadoop的单机配置（非分布式）

Hadoop 默认模式为非分布式模式（本地模式），无需进行其他配置即可运行。非分布式即单 Java 进程，方便进行调试。

Hadoop 附带了丰富的例子，
执行： ./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar
可以看到所有例子。
此处，我们选择运行 grep 例子，将 input 文件夹中的所有文件作为输入，筛选当中符合正则表达式 dfs[a-z.]+ 的单词并统计出现的次数，最后输出结果到 output 文件夹中。

cd /usr/local/hadoop
mkdir ./input
cp ./etc/hadoop/*.xml ./input # 将配置文件作为输入文件
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar grep ./input ./output 'dfs[a-z.]+'
cat ./output/* # 查看运行结果
执行成功后如下所示，输出了作业的相关信息，输出的结果是符合正则的单词 dfsadmin 出现了1次。

注意，Hadoop 默认不会覆盖结果文件，因此再次运行上面实例会提示出错，需要先将 ./output 删除：rm -r ./output

五、环境搭建成功，Enjoy！！！