什么是MapReduce,一文带你读懂

什么是MapReduce?

MapReduce是一种编程模型,用于大规模数据集的并行运算;是面向大数据并行处理的计算模型、框架和平台。

MapReduce思想是什么?

MapReduce的思想核心是分而治之

 所谓“分而治之”就是把一个复杂的问题按一定的“分解”方法分为规模较小的若干部分,然后逐个解决,分别找出各部分的解,再把把各部分的解组成整个问题的解。

概况起来,MapReduce所包含的思想分为两步:

"Map(映射)" 和 "Reduce(归约)"

Map负责“分”,即把复杂的任务分解为若干个“简单的任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算,彼此间几乎没有依赖关系

Reduce负责“合”,即对map阶段的结果进行全局汇总

如何通俗的理解?

比较形象的语言解释MapReduce:

要数停车场中的所有停放车的总数量。

你数第一列,我数第二列…这就是Map阶段,人越多,能够同时数车的人就越多,速度就越快。

数完之后,聚到一起把所有人的统计数加在一起。这就是Reduce合并汇总阶段。

为什么要有MapReduce?

 你一个人数一个停车场的汽车,很吃力,如果让你的几个好朋友和你一起数,你最后一汇总是不是就很简单了?这就是为什么要有MapReduce。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

chad__chang

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值