指导手册05：MapReduce编程入门.md

最新推荐文章于 2022-07-11 07:37:00 发布

qq_37451173

最新推荐文章于 2022-07-11 07:37:00 发布

阅读量903

点赞数 1

分类专栏：大数据文章标签：大数据

本文链接：https://blog.csdn.net/qq_37451173/article/details/82942389

版权

大数据专栏收录该内容

6 篇文章 0 订阅

订阅专栏

指导手册05：MapReduce编程入门

Part 1:使用Eclipse创建MapReduce工程

情景描述：

因为Hadoop本身就是由Java开发的，所以通常也选用Eclipse作为MapReduce的编程工具，本小节将完成Eclipse安装，MapReduce集成环境配置。

1．下载与安装Eclipse

（1）在官网下载Eclipse安装包“Eclipse IDE for Java EE
Developers”官网：https://www.eclipse.org/downloads/packages/

（2）将Eclipse安装包解压到本地的安装目录

（3）将插件hadoop-eclipse-plugin-2.6.0jar拷贝到Eclipse安装目录下的dropins目录

（4）双击解压文件下Eclipse文件夹中的图标，打开Eclipse

2．配置MapReduce环境

（1）增加Map/Reduce功能区。

打开Eclipse主界面，在菜单中选择“Window”->”Perspective”->”Open
Perspective”->”Other”命令，在弹出的菜单中选择”Map/Reduce”选择，然后单击“OK”按钮确定。

（2）增加Hadoop集群的连接。

在Eclipse主界面下方的控制台界面中，选中选项卡“Map/Reduce Locations”,如下图所示：

单击上图所示右下方的蓝色小象图标（其右上方有+号），就会弹出连接Hadoop集群的配置对话框。

相关的Hadoop 集群的连接信息有以下各项。

Location name:命名新建的Hadoop连接，如Hadoop Cluster.
Map/Reduce(v2)Master:填写Hadoop集群的ResourceManager的IP地址和端口。（查看yarn-site.xml配置文件）。
DFS
Master：填写Hadoop集群的NameNode的IP地址和连接端口。（查看core-site.xml配置文件）

（3）浏览HDFS上的目录文件。

3．新建MapReduce工程

（1）导入MapReduce运行依赖的相关Jar包

在主菜单上选择”Window”->”Preferences”命令，在下图的Preference窗口中选择“Hadoop
Map/Reduce”选项，单击“Browse”按钮，选中Hadoop的安装文件夹路径。

（2）创建MapReduce工程。从菜单栏中选择“File”->”New”->”Project”命令，在弹出的New对话框中选择“Map/Reduce
Project”选项。如下图如示。

（3）在“MapReduce
Project”的创建界面中填写工程名“MemberCount”,然后单击“Finish”按钮。

（4）接下来，在主界在左侧的”Project
Explorer”栏可以看到己经创建好的工程MemberCout,接下来就可以正式进行MapReduce工作了。

4．实训操作

在Linux中完成Eclipse安装并创建MapReduce工程。（参考：Eclipe在Linux中安装配置参考）

Part 2: 通过源码初识MapReduce编程

情景描述：

在进行MapReduce编程前，有必要对MapReduce的基本原理进行了解，尤其是要对其核心模块Mapper与Reduce的执行流程有一定认识。Hadoop官方提供了一些示例源码，非常适合初学者学习及参考。比如词频统计（WordCount）的源码。

1．词频统计（WordCount）的源码

2．MapReduce原理

MapReduce，在名称上就表现出了它的核心原理，它是由两个阶段组成的。

Map，表示“映射”，在map阶段进行的一系列数据处理任务被称为Mapper模块。

Reduce，表示“归约”，同样，在reduce阶段进行的一系列数据处理任务也被称为Reducer模块。

MapReduce通常也被简称为MR

如果用打比方的方式来说明，MapReduce可以被看作一个专业处理大数据的工程队，它由以下主要成员组成：

（1）Mapper：映射器。

（2）Mapper助理InputFormat：输入文件读取器。

（3）Shuffle：运输队。

（4）Shuffle助理Sorter：排序器。

（5）Reducer：归约器。

（6）Reducer助理OutputFormat：输出结果写入器。

数据分片。假设原始文件中8000万行记录被系统分配给100个Mapper来处理，那么每个Mapper处理80万行数据。相当于MapReduce通过数据分片的方式，把数据分发给多个单元来进行处理，这就是分布式计算的第一步。
数据映射。在数据分片完成后，由Mapper助理InputFormat从文件的输入目录中读取这些记录，然后由Mapper负责对记录进行解析，并重新组织成新的格式。然后Mapper把自己的处理结果输出，等待Shuffle运输队取走结果。
数据混洗。由Shuffle运输队把获取的结果按照相同的键(Key)进行汇集，再把结果送到Shuffle助理Sorter，由Sorter负责对这些结果排好序，然后提交给Reducer。
数据归约。Reducer收到传输过来的结果后，接着进行汇总与映射工作，得到最终计算结果。最后由Reducer助理OutputFormat把结果输出到指定位置。

3．MapReduce 实现词频统计的执行流程

map任务的处理过程

reduce任务的处理过程

4．Hadoop MapReduce– 单词计数源码分析Driver

应用程序Driver分析：

第一个框部分：初始化Hadoop配置。
第二个框部分：新建Job并设置主类，这里的Job实例需要把configuration的实例传入，后面的“word
count” 是该MapReduce任务的任务名。
第三个框部分：设置Mapper、Combiner、Reducer。这里设置的代码都是固定写法，里面的类名可以改变，其中Mapper、Reducer是必段设置的类。
第四个框部分：设置输出键值对格式。在MapReduce任务中涉及4个键值对格式，Mapper输入键值对格式<K1,V1>,
Mapper输出键值对格式<K2，V2>,Reducer输出键值对格式<K3,V3
>。当Mapper输出键值对格式<K2,V2>和Reducer输出键值对格式<K3,V3>一样的时候，可以只设置Reducerl输出键值对的格式。
第五、六个框部分：设置输入与输出路径。如果必要，这里还可以增加对输入与输出文件格式设置。
最后部分：提交MapReduce任务运行。