MapReduce拆分理解

MapReduce的运行机制包括input、split、map、shuffle、reduce和output六个步骤。input阶段接收文档,split将其按行切分成key-value对,map将键值对转换成新的对,shuffle将相同key的value聚类,reduce将同一key的value相加,最后output输出结果。整个流程包括数据分割、并行处理、排序、聚合和输出等操作。
摘要由CSDN通过智能技术生成

大多数初学者可能会面临这样一个问题,MapReduce的运行机制是怎样的呢,接下来我是我的理解,希望能够帮到大家

MapReduce大致可以分为六个步骤,分别是input, split, map, shuffle, reduce, output 举个例子来说明:

1.input(输入) — 给定一个文档,其中有这样几行数据
			Hello World
			Hello Java
			Hello C
			Hello BigData
			Hello World
2.split(切片) — 将给定的文档按行切分成key-value键值对
			0 - Hello World
			1 - Hello Java
			2 - Hello C
			3 - Hello BigData
			4 - Hello World
3.map(映射) — 将拆分之后的键值对转换成新的key-value键值对(这里用空格间隔,所以拆分的时候也用空格),
			(Hello,1)
			(World,1)
			(Hello,1)
			(Java,1)
			(Hello,1)
			(C,1)
			(Hello,1)
			(BigData,1)
			(Hello,1)
			(World,1)
4.shuffle(派发) — 将相同的key放到一起
			(Hello,1)
			(Hello,1)
			(Hello,1)
			(Hello,1)
			(Hello,1)
		
  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值