调用MapReduce对文件中各个单词出现次数进行统计

调用MapReduce对文件中各个单词出现次数进行统计
实验配置：系统:Ubuntu Kylin | 环境：Hadoop | 软件：Eclipse

要求
1.将待分析的文件（不少于10000英文单词）上传到HDFS
2.调用MapReduce对文件中各个单词出现的次数进行统计
3.将统计结果下载本地。

一、安装Ubuntu
在学习Hadoop方面，推荐个人在学习生活中使用Ubuntu,所以本实验采用Ubuntu 。

二、准备工作
1.创建Hadoop账户
1.打开终端窗口，输入如下命令创建新用户 :
sudo useradd -m hadoop -s /bin/bash
创建了可以登陆的 hadoop 用户，并使用 /bin/bash 作为 shell。
2.设置hadoop密码 :
sudo passwd hadoop
3.为hadoop用户增加管理员权限:
sudo adduser hadoop sudo
最后注销当前用户选择选择刚创建的 hadoop 用户进行登陆。
4.更新 apt
用 hadoop 用户登录后，先更新一下 apt，后续将使用 apt 安装软件，如果没更新可能有一些软件安装不了。按 ctrl+alt+t 打开终端窗口，执行如下命令：
sudo apt-get update
5.安装vim
后续需要更改一些配置文件，这里采用的是 vim（vi增强版，基本用法相同），相对于vi更有辨识度，编辑起来更好用。
sudo apt-get install vim
6.配置SSH
集群、单节点模式都需要用到 SSH 登陆（类似于远程登陆，你可以登录某台 Linux 主机，并且在上面运行命令），Ubuntu 默认已安装了 SSH client，此外还需要安装 SSH server
sudo apt-get install openssh-server
安装后，可以使用如下命令登陆本机：
ssh localhost
首先退出刚才的 ssh，就回到了我们原先的终端窗口，然后利用 ssh-keygen 生成密钥，并将密钥加入到授权中：
exit # 退出刚才的 ssh localhost
cd ~/.ssh/ # 若没有该目录，请先执行一次ssh localhost
ssh-keygen -t rsa # 会有提示，都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys # 加入授权
此时再用 ssh localhost 命令，无需输入密码就可以直接登陆了，如下图所示。

三.安装Java环境
1.安装JDK
Hadoop3.1.3需要JDK版本在1.8及以上。需要按照下面步骤来自己手动安装JDK1.8。
接下来在Linux命令行界面中，执行如下Shell命令
cd /usr/lib
sudo mkdir jvm #创建/usr/lib/jvm目录用来存放JDK文件
cd ~ #进入hadoop用户的主目录
cd Downloads #注意区分大小写字母，刚才已经通过FTP软件把JDK安装包jdk-8u162-linux-x64.tar.gz上传到该目录下
sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm #把JDK文件解压到/usr/lib/jvm目录下
2.验证JDK安装情况
JDK文件解压缩以后，可以执行如下命令到/usr/lib/jvm目录查看一下：
cd /usr/lib/jvm
ls
3.设置JAVA坏境变量
cd ~
vim ~/.bashrc
通过vim编辑器。打开环境变量配置.bashrc文件，在文件开头添加如下几行内容：
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=$JAV{A}_{H}OME/jreexp$