MR执行流程详解

1 MR 切片机制 & MR全流程

https://blog.csdn.net/javastart/article/details/52903124

2 MR执行流程详解

https://blog.csdn.net/Milkcoffeezhu/article/details/80551586

3 MR 切片逻辑

https://blog.csdn.net/qq_38250124/article/details/79731853

每个切片对应一个maptask,由fileinputformat的getsplits()方法完成
首先  获得hdfs待处理文件的路径,setinputpath,
遍历路径下的文件,获取文件的大小,
与默认block大小128M相比较
超过默认值,则切下128M,即满128M切为一块,到最后不满128M自己为一块,
大体将切片规划写入一个文件,然后传给yarn,启动mrappmaster执行
 

4 Hadoop进阶之MR中MapTask并行度决定机制及切片机制

https://blog.csdn.net/zuolovefu/article/details/79066896?utm_source=blogxgwz1

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值