MapReduce核心思想

MapReduce核心思想

需求：有一个五层的图书馆，需要获取图书馆中一共有多少本书。

(1)只有一个人时，是能一本一本的数！工作量巨大，耗时较长。

(2)分配五个人由你支配。此时你怎么支配？
五个人，每个人数一层的书量最终将五个人的量汇总求和，就是图书馆中最终书的数量。

MapReduce的思想核心是==“分而治之，先分后合”。即将一个大的、复杂的工作或任务，拆分成多个小的任务，并行处理，最终进行合并==。适用于大量复杂的、时效性不高的任务处理场景（大规模离线数据处理场景）。即使是发布过论文实现分布式计算的谷歌也只是实现了这种思想，而不是自己原创。
MapReduce由两部分组成，分别是Map 和Reduce两部分。
Map负责“分”，即把复杂的任务分解为若干个“简单的任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算，彼此间几乎没有依赖关系。例如前面例子中的分配每个人数一层楼。
Reduce负责“合”，即对map阶段的结果进行全局汇总。例如前面例子中将五个人的结果汇总。
这两个阶段合起来正是MapReduce思想的体现。