Mapreduce程序 统计文件中每个单词出现次数

调用MapReduce对文件中各个单词出现次数进行统计

一、安装环境

怎么自己搭建服务器，服务器空间、域名；存放的文件。直接购买服务器空间（例如阿里云、京东云、腾讯云空间服务器）或者可以购买后到机房托管（适合大企业）。Linux系统有CentOS和Ubuntu。新手如何选择？当然选择Ubuntu。Ubuntu有一个免费提供帮助的大社区。Ubuntu服务器要简单得多。Ubuntu桌面版比其他任何基于Linux的版本都要流行。企业如何选择？不容置疑的就是CentOS。CentOS是相对来说更稳定和安全的。相关下载文件可获取。

二、准备工作

1.创建Hadoop账户

• 首先按 ctrl+alt+t 打开终端窗口，输入如下命令创建新用户 :

//这条命令创建了可以登陆的 hadoop 用户，并使用 /bin/bash 作为 shell。
sudo useradd -m hadoop -s /bin/bash

• 设置hadoop密码 :

sudo passwd hadoop

• 为hadoop用户增加管理员权限

sudo adduser hadoop sudo

最后注销当前用户（点击屏幕右上角的齿轮，选择注销），返回登陆界面。在登陆界面中选择刚创建的 hadoop 用户进行登陆。

2.更新 apt

用 hadoop 用户登录后，先更新一下 apt，后续将使用 apt 安装软件，如果没更新可能有一些软件安装不了。按 ctrl+alt+t 打开终端窗口，执行如下命令：

sudo apt-get update

3.安装vim

用的是 vim（vi增强版，基本用法相同），相对于vi更有辨识度，编辑起来更好用。

sudo apt-get install vim

//安装软件时若需要确认，在提示处输入 y 即可。

4.配置SSH、配置SSH无密码登陆

集群、单节点模式都需要用到 SSH 登陆（类似于远程登陆，你可以登录某台 Linux 主机，并且在上面运行命令），Ubuntu 默认已安装了 SSH client，此外还需要安装 SSH server：

sudo apt-get install openssh-server

安装后，可以使用如下命令登陆本机：

ssh localhost

此时会有如下提示(SSH首次登陆提示)，输入 yes 。然后按提示输入密码 hadoop，这样就登陆到本机了。

exit                           # 退出刚才的 ssh localhost
cd ~/.ssh/                     # 若没有该目录，请先执行一次ssh localhost
ssh-keygen -t rsa              # 会有提示，都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys  # 加入授权

此时再用 ssh localhost 命令，无需输入密码就可以直接登陆了，如下图所示。

三.安装Java环境

1.安装JDK

jdk-8u162-linux-x64.tar.gz（提取码：99bg）
请把压缩格式的文件jdk-8u162-linux-x64.tar.gz下载到本地电脑，如：“/home/hpf/Downloads/”目录下
在Linux命令行界面中，执行如下Shell命令（注意：当前登录用户名是hadoop）：
接下来在Linux命令行界面中，执行如下Shell命令（注意：当前登录用户名是hadoop）：

cd /usr/lib
sudo mkdir jvm #创建/usr/lib/jvm目录用来存放JDK文件
cd ~ #进入hadoop用户的主目录
cd Downloads  #注意区分大小写字母，刚才已经通过FTP软件把JDK安装包jdk-8u162-linux-x64.tar.gz上传到该目录下
sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm  #把JDK文件解压到/usr/lib/jvm目录下

2.验证JDK安装情况

JDK文件解压缩以后，可以执行如下命令到/usr/lib/jvm目录查看一下：

cd /usr/lib/jvm
ls

3.设置JAVA坏境变量

cd ~
vim ~/.bashrc

通过vim编辑器。打开环境变量配置.bashrc文件，在文件开头添加如下几行内容：
（vim编辑器中，按“i”进去编辑模式，按“:wq”保存并返回终端）

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=${
   JAVA_HOME}/jre
export CLASSPATH=.:${
   JAVA_HOME}/lib:${
   JRE_HOME}/lib
export PATH=${
   JAVA_HOME}/bin:$PATH

保存.bashrc文件并退出vim编辑器。然后，继续执行如下命令让.bashrc文件的配置立即生效：

source ~/.bashrc

验证：

java -version

若返回如下信息，则代表JAVA环境配置成功

四.安装Hadoop

Hadoop安装文件，可以到Hadoop官网下载hadoop-3.1.3.tar.gz。
也可以直接点击这里从百度云盘下载软件（提取码：lnwl）
我们选择将 Hadoop 安装至 /usr/local/ 中：

sudo tar -zxf ~/下载/hadoop-3.1.3.tar.gz -C /usr/local    # 解压到/usr/local中
cd /usr/local/
sudo mv ./hadoop-3.1.3/ ./hadoop            # 将文件夹名改为hadoop
sudo chown -R hadoop ./hadoop       # 修改文件权限

Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用，成功则会显示 Hadoop 版本信息：

cd /usr/local/