MR切片源码分析笔记

这里用的WordCount案例
提交任务的入口
运行debug模式,F5进入waitForComplent()方法

可以看到它调用了submit()方法,进入这个方法
在这里插入图片描述
可以看到又有四个方法
1.ensureState():查看当前任务运行状态的方法
2.setUseNewAPI():设置一个新建的API
3.进入connect():这是一个客户端获得服务器链接并返回的方法**********
在这里插入图片描述
进入Cluster(getConfiguration())
在这里插入图片描述
进入到初始化函数initialize中在这里插入图片描述
进入第一个provider.create(),是以本机方式提交
在这里插入图片描述
进入第二个provider.create(),是以集群yarn方式提交
在这里插入图片描述

我们回到submit方法
在这里插入图片描述
进入submitJobInternal(Job.this, cluster)中
在这里插入图片描述
在这里插入图片描述

进入writeSplits
在这里插入图片描述

进入writeNewSplits
在这里插入图片描述

进入getSplits:实现如何切片
在这里插入图片描述

在这里插入图片描述
返回到submitJobInternal()中
在这里插入图片描述
返回到submit()任务提交完成
返回到waitForCompletion(),执行任务
在这里插入图片描述
完成任务!~
在这里插入图片描述
PS:如果觉着我这个乱的话推荐看流程图

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值