调用MapReduce对文件中各个单词出现次数进行统计

调用MapReduce对文件中各个单词出现次数进行统计

一、安装ubtuntu

在vb虚拟机中进行ubtuntu的安装。一般来说，如果要做服务器可选择CentOS或者Ubuntu Server；如果做桌面系统可选择Ubuntu Desktop。在学习Hadoop方面，虽然两个系统没有多大区别，但在此次实验中使用 Ubuntu 18.04.1 64位 作为系统环境。安装地址，安装教程。

二、准备工作

1.创建hadoop用户

第一步，打开终端窗口，输入以下命令创建新用户:

sudo useradd -m hadoop -s /bin/bash

设置hadoop的密码：

sudo passwd hadoop

为 hadoop 用户增加管理员权限

sudo adduser hadoop sudo

为防止后续操作出现权限不够的情况

2.更新apt

登录hadoop账户后，我们对apt进行更新，在终端下输入以下命令：

sudo apt-get update

若出现更新不了的情况，请前往系统设置——软件和更新——下载自源选择将更新源更改完成后重新尝试输入上述命令)

后续需要更改一些配置文件这里采用，的是 vim（vi增强版，基本用法相同），相对于vi更有辨识度，编辑起来更好用

sudo apt-get install vim

3.安装、配置ssh

配置ssh
集群、单节点模式都需要用到 SSH 登陆（类似于远程登陆，你可以登录某台 Linux 主机，并且在上面运行命令），Ubuntu 默认已安装了 SSH client，此外还需要安装 SSH server：
安装完后，尝试进行登录
此时会有如下提示(SSH首次登陆提示)，输入 yes 。然后按提示输入密码 hadoop，这样就登陆到本机了。
但这样登陆是需要每次输入密码的，我们需要配置成SSH无密码登陆比较方便。
首先退出刚才的 ssh，就回到了我们原先的终端窗口，然后利用 ssh-keygen 生成密钥，并将密钥加入到授权中：

exit                           # 退出刚才的 ssh localhost
cd ~/.ssh/                     # 若没有该目录，请先执行一次ssh localhost
ssh-keygen -t rsa              # 会有提示，都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys  # 加入授权

此时再用 ssh localhost 命令，无需输入密码就可以直接登陆了，如下图所示。

三、安装java

1.安装jdk

Java环境可选择Oracle的JDK，或是OpenJDK，本教程安装的是Oracle的JDK。

检查自己的系统是32-bit还是64-bit

在命令行输入：

getconf LONG_BIT

返回32或者是64，可以来查看操作系统的位数是32位还是64位
检查你的系统是否已经安装了java，输入命令：

java -version

如果有安装OpenJDK，需要先卸载OpenJDK

下载Linux版本的Orcle Java JDK，网址点击提取
下载对应的版本jdk，本教程下载的是jdk-8u131-linux-x64.tar.gz、

复制文件到刚刚创建的Java目录
路径为/usr/local/java;由于大多数的下载文件都会在路径/home/”你的用户名”/Downloads这个文件夹中，这里以此为例：

cd /home/hadoop/Downloads 
sudo cp -r jdk-8u131-linux-x64.tar.gz /usr/local/java/
cd /usr/local/java

解压下载文件到此目录：

sudo tar xvzf jdk-8u131-Linux-x64.tar.gz

2.验证JDK安装情况

JDK文件解压缩以后，执行如下命令到/usr/lib/jvm目录查看一下。看到在/usr/lib/jvm目录下有个jdk1.8.0_162目录即安装成功。

cd /usr/lib/jvm
ls

3.设置JAVA环境变量

cd ~
vim ~/.bashrc

通过vim编辑器。打开环境变量配置.bashrc文件，在文件开头添加如下几行内容：

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=${
   JAVA_HOME}/jre
export CLASSPATH=.:${
   JAVA_HOME}/lib:${
   JRE_HOME}/lib
export PATH=${
   JAVA_HOME}/bin:$PATH

保存.bashrc文件并退出vim编辑器。然后继续执行命令让.bashrc文件的配置立即生效：

source ~/.bashrc

继续验证安装情况：

java -version

若返回如下信息，则代表JAVA环境配置成功

四.安装 Hadoop

Hadoop的安装方式有三种，分别是单机模式，伪分布式模式，分布式模式。在此选择伪分布模式：Hadoop在单节点上以伪分布式的方式运行，Hadoop 进程以分离的 Java 进程来运行，节点既作为 NameNode 也作为 DataNode，同时读取的也是 HDFS 中的文件。可到Hadoop官网下载hadoop-2.10.0.tar.gz 或从网盘中下载： 点击下载.（提取码：99bg）
下载完hadoop文件后一般可以直接使用。

我们选择将Hadoop安装至/usr/local/中：

sudo tar -zxf ~/Downloads/hadoop-2.7.3.tar.gz -C /usr/local  #解压到/usr/local中
cd /usr/local/
sudo mv ./hadoop-2.7.3/ ./hadoop  #将文件夹名改为hadoop
sudo chown -R hadoop ./hadoop     #修改文件权限 

Hadoop解压后即可使用。输入如下命令来检查Hadoop是否可用，成功则会显示Hadoop版本信息：

cd /usr/local/hadoop
./bin/hadoop version

五.Hadoop伪分布式配置

1.修改配置文件

Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中，伪分布式需要修改2个配置文件 core-site.xml 和 hdfs-site.xml 。Hadoop的配置文件是 xml 格式，每个配置以声明 property 的 name 和 value 的方式来实现。

cd /usr/local/hadoop/etc/hadoop/

在进行修改配置文件前，需要创建相应的文件夹进行存放，以防后续操作无法启动Hadoop

sudo mkdir /usr/local/hadoop