Mapreduce概述

Mapreduce概述

---

什么是Mapreduce
Hadoop MapReduce是一个软件框架，基于该框架能够容易地编写应用程序，这些应用程序能够运行在由上千个商用机器组成的大集群上，并以一种可靠的，具有容错能力的方式并行地处理上TB级别的海量数据集

---

Mapreduce的特点
1、软件框架
2、并行处理
3、可靠且容错
4、大规模集群
5、海量数据集

---

Mapreduce工作机制
一个mapreduce作业的执行流程是：作业提交->作业初始化->任务分配->任务执行->更新任务执行进度和状态->作业完成。

Mapreduce作业执行涉及4个独立的实体分别为：
1、客户端：用来提交Mapreduce作业
2、JobTracker,用来协调作业的运行
3、TaskTracker，用来处理作业划分后的任务
4、HDFS，用来在其它实体间共享作业文件

运行步骤：
首先是客户端要编写好mapreduce程序，配置好mapreduce的作业也就是job，接下来提交job到JobTracker上，JobTracker就会构建这个job，具体就是分配一个新的job任务的ID值。
接下来它会做检查，目的就是确认输出目录是否存在，如果存在那么job就不能正常运行，JobTracker会抛出错误给客户端，接下来还要检查输入目录是否存在，如果不存在同样抛出错误，如果存在JobTracker会根据输入计算输入分片（Input Split）,如果分片计算不出来也要抛出错误。
分配好资源后，JobTracker就会初始化作业，初始化主要做的是将Job放入一个内部的队列，让配置好的作业调度器能调度到这个作业，作业调度器会初始化这个job，初始化就是创建一个正在运行的job对象（封装任务和记录信息），以便JobTracker跟踪job的状态和进程。
初始化完毕后，作业调度器会获取输入分片信息（input split），每个分片创建一个map任务。
接下来就是任务分配了，这个时候tasktracker会运行一个简单的循环机制定期发送心跳给jobtracker，心跳间隔是5秒，程序员可以配置这个时间，心跳就是jobtracker和tasktracker沟通的桥梁，通过心跳，jobtracker可以监控tasktracker是否存活，也可以获取tasktracker处理的状态和问题，同时tasktracker也可以通过心跳里的返回值获取jobtracker给它的操作指令。
任务分配好后就是执行任务了。在任务执行时候jobtracker可以通过心跳机制监控tasktracker的状态和进度，同时也能计算出整个job的状态和进度，而tasktracker也可以本地监控自己的状态和进度。当jobtracker获得了最后一个完成指定任务的tasktracker操作成功的通知时候，jobtracker会把整个job状态置为成功，然后当客户端查询job运行状态时候（注意：这个是异步操作），客户端会查到job完成的通知的。如果job中途失败，mapreduce也会有相应机制处理，一般而言如果不是程序员程序本身有bug，mapreduce错误处理机制都能保证提交的job能正常完成。

---

Mapreduce的输入和输出
一个MapReduce作业的输入和输出类型：会有三组