[笔记迁移][Hadoop][8]YARN原理

一、基本原理

YARN不懂运算模型,具有 通用性 ,不管是MapReduce, Spark, Storm 只要有符合规范的AppMaster,YARN就能启动分配与调度机制->底层解耦

YARN
NodeManager执行MapReduce任务细节:
YARNNM


二、运行模式的关键:RunJar进程

  1. 本地模式( 本地JVM For Debug )与集群模式( YARN JVM For Use )
    运行模式与哪个文件系统无关,取决于配置文件:根据配置文件yarn-site.xml, mapred-site.xml初始化,默认情况(没有配置)是LocalRunJar

  2. 如果想直接在eclipse中run main来启动集群运行模式,需要把本工程打包成xxx.jar,在Runner中conf.set(“mapreduce.job.jar”,“xxx.jar”)


三、调用过程

YARNSrc

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值