MapReduce初步理解及一些简单计算应用

本文介绍了MapReduce的基本工作原理,通过map和reduce函数实现数据计算。具体阐述了如何利用MapReduce进行矩阵与向量乘法以及矩阵乘法的计算,并提供了详细的操作流程和示例,展示了在大数据计算中的应用。
摘要由CSDN通过智能技术生成

MapReduce 只要靠2个函数来进行计算,map函数和reduce函数,分开来说的话,它主要计算过程如下:

1 map函数的作用将多个输入转化成很多个键值对,具体如何转换,需要看具体问题编写具体的map函数。

 2 对于产生的所有的键值对,会按照键的值进行分组,同一个键值的会分到同一组,每一组又可以归到一个reduce任务。

3 对于相同键产生序列对,reduce任务会将它们按照某种方式进行组合,具体组合方式也要看具体问题来看。

这里有必要说明一点的是,这里的键值对不一定是一对一,很多情况下是一对多,这样才会有键相同值不同的键值对如何组合。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值