调用MapReduce对文件中各个单词出现次数进行统计
文章目录
一、安装ubtuntu
在vb虚拟机中进行ubtuntu的安装。一般来说,如果要做服务器可选择CentOS或者Ubuntu Server;如果做桌面系统可选择Ubuntu Desktop。在学习Hadoop方面,虽然两个系统没有多大区别,但在此次实验中使用 Ubuntu 18.04.1 64位 作为系统环境。安装地址,安装教程。
二、准备工作
1.创建hadoop用户
第一步,打开终端窗口,输入以下命令创建新用户:
sudo useradd -m hadoop -s /bin/bash
设置hadoop的密码:
sudo passwd hadoop
为 hadoop 用户增加管理员权限
sudo adduser hadoop sudo
为防止后续操作出现权限不够的情况
2.更新apt
登录hadoop账户后,我们对apt进行更新,在终端下输入以下命令:
sudo apt-get update
若出现更新不了的情况,请前往系统设置——软件和更新——下载自源选择将更新源更改完成后重新尝试输入上述命令)
后续需要更改一些配置文件这里采用,的是 vim(vi增强版,基本用法相同),相对于vi更有辨识度,编辑起来更好用
sudo apt-get install vim
3.安装、配置ssh
配置ssh
集群、单节点模式都需要用到 SSH 登陆(类似于远程登陆,你可以登录某台 Linux 主机,并且在上面运行命令),Ubuntu 默认已安装了 SSH client,此外还需要安装 SSH server:
安装完后,尝试进行登录
此时会有如下提示(SSH首次登陆提示),输入 yes 。然后按提示输入密码 hadoop,这样就登陆到本机了。
但这样登陆是需要每次输入密码的,我们需要配置成SSH无密码登陆比较方便。
首先退出刚才的 ssh,就回到了我们原先的终端窗口,然后利用 ssh-keygen 生成密钥,并将密钥加入到授权中:
exit # 退出刚才的 ssh localhost
cd ~/.ssh/ # 若没有该目录,请先执行一次ssh localhost
ssh-keygen -t rsa # 会有提示,都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys # 加入授权
此时再用 ssh localhost 命令,无需输入密码就可以直接登陆了,如下图所示。
三、安装java
1.安装jdk
Java环境可选择Oracle的JDK,或是OpenJDK,本教程安装的是Oracle的JDK。
检查自己的系统是32-bit还是64-bit
在命令行输入:
getconf LONG_BIT
返回32或者是64,可以来查看操作系统的位数是32位还是64位
检查你的系统是否已经安装了java,输入命令:
java -version
如果有安装OpenJDK,需要先卸载OpenJDK
下载Linux版本的Orcle Java JDK,网址点击提取
下载对应的版本jdk,本教程下载的是jdk-8u131-linux-x64.tar.gz、
复制文件到刚刚创建的Java目录
路径为/usr/local/java;由于大多数的下载文件都会在路径/home/”你的用户名”/Downloads这个文件夹中,这里以此为例:
cd /home/hadoop/Downloads
sudo cp -r jdk-8u131-linux-x64.tar.gz /usr/local/java/
cd /usr/local/java
解压下载文件到此目录:
sudo tar xvzf jdk-8u131-Linux-x64.tar.gz
2.验证JDK安装情况
JDK文件解压缩以后,执行如下命令到/usr/lib/jvm目录查看一下。看到在/usr/lib/jvm目录下有个jdk1.8.0_162目录即安装成功。
cd /usr/lib/jvm
ls
3.设置JAVA环境变量
cd ~
vim ~/.bashrc
通过vim编辑器。打开环境变量配置.bashrc文件,在文件开头添加如下几行内容:
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=${
JAVA_HOME}/jre
export CLASSPATH=.:${
JAVA_HOME}/lib:${
JRE_HOME}/lib
export PATH=${
JAVA_HOME}/bin:$PATH
保存.bashrc文件并退出vim编辑器。然后继续执行命令让.bashrc文件的配置立即生效:
source ~/.bashrc
继续验证安装情况:
java -version
若返回如下信息,则代表JAVA环境配置成功
四.安装 Hadoop
Hadoop的安装方式有三种,分别是单机模式,伪分布式模式,分布式模式。在此选择伪分布模式:Hadoop在单节点上以伪分布式的方式运行,Hadoop 进程以分离的 Java 进程来运行,节点既作为 NameNode 也作为 DataNode,同时读取的也是 HDFS 中的文件。可到Hadoop官网下载hadoop-2.10.0.tar.gz 或从网盘中下载: 点击下载.(提取码:99bg)
下载完hadoop文件后一般可以直接使用。
我们选择将Hadoop安装至/usr/local/中:
sudo tar -zxf ~/Downloads/hadoop-2.7.3.tar.gz -C /usr/local #解压到/usr/local中
cd /usr/local/
sudo mv ./hadoop-2.7.3/ ./hadoop #将文件夹名改为hadoop
sudo chown -R hadoop ./hadoop #修改文件权限
Hadoop解压后即可使用。输入如下命令来检查Hadoop是否可用,成功则会显示Hadoop版本信息:
cd /usr/local/hadoop
./bin/hadoop version
五.Hadoop伪分布式配置
1.修改配置文件
Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中,伪分布式需要修改2个配置文件 core-site.xml 和 hdfs-site.xml 。Hadoop的配置文件是 xml 格式,每个配置以声明 property 的 name 和 value 的方式来实现。
cd /usr/local/hadoop/etc/hadoop/
在进行修改配置文件前,需要创建相应的文件夹进行存放,以防后续操作无法启动Hadoop
sudo mkdir /usr/local/hadoop