MapReduce执行原理(涉及底层,较难理解)

MR执行原理

底层原理较难理解

思维导图

在这里插入图片描述

图解

在这里插入图片描述

Map阶段

图解

在这里插入图片描述

原理
  1. 【逻辑切片】将输入目录下的文件逐个进行逻辑切片。每一个切片由一个MapTask处理
  2. 【读取切片数据获得k1和v1】读取切片的数据按照一定规则解析成<k1,v1>。默认规则是把每一行文本内容解析成键值对,k1是每一行的起始偏移量,v1是行内容
  3. 【使用map方法获得k2和v2】使用map方法根据具体业务要求将<k1,v1>转换成<k2,v2>。每次调用map方法会输出零个或多个键值对
  4. 【分区】按照一定的规则对map方法输出的键值对进行分区。分区的数量就是Reducer任务运行的数量,默认只有一个Reducer任务,一个分区。
  5. 【排序】对分区中的键值对进行排序。先按照键排序,键相同的则按照值排序
  6. 【规约】(可能有,也可能没有此步骤)提前调用reduce()方法对局部数据进行合并(提前聚合 => Hive优化)

Reduce阶段

图解

在这里插入图片描述

原理
  1. 【拉取分区数据】主动从MapTask拉取属于自己分区的数据,将其写到内存
  2. 【排序】当内存触发溢写机制后,将内存中的数据写入到磁盘中形成小文件。最后全部小文件合并成大文件并执行排序操作
  3. 【分组】调用reduce方法,把键值相同的放在同一组中进行合并(分组),最后将最终结果写到HDFS中
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值