yarn的调度模式详解

本文详细介绍了Yarn的三种调度策略:FIFO Scheduler、Capacity Scheduler和Fair Scheduler。FIFO Scheduler遵循先进先出原则,可能导致资源阻塞;Capacity Scheduler为小任务预留资源;Fair Scheduler则动态分配资源,实现任务间的公平共享。在CDH中,默认使用的是Fair Scheduler。
摘要由CSDN通过智能技术生成

Yarn的调度

yarn的默认调度器

1:Apache hadoop2.x的默认调度器是Capacity Scheduler(计算调度器)
2:CDH的默认调度器是Fair Scheduler

Yarn三种调度策略对比

在Yarn中有三种调度器可以选择:FIFO Scheduler ,Capacity Scheduler,FairScheduler。
1:FIFO Scheduler
队列调度器

FIFO Scheduler把应用按提交的顺序排成一个队列,这是一个先进先出队列,在进行资源分配的时候,先给队列中最头上的应用进行分配资源,待最头上的应用需求满足后再给下一个分配,以此类推。

FIFO Scheduler是最简单也是最容易理解的调度器,也不需要任何配置,但它并不适用于共享集群。大的应用可能会占用所有集群资源,这就导致其它应用被阻塞。在共享集群中,更适合采用Capacity Scheduler或Fair Scheduler,这两个调度器都允许大任务和小任务在提交的同时获得一定的系统资源。从图中可以看出,在FIFO 调度器中,小任务会被大任务阻塞。

2:Capacity Scheduler
在这里插入图片描述
而对于Capac

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值