yarn中的资源调度器_笔记

本文介绍了YARN中的三种资源调度器:FIFO、容量调度器和公平调度器。FIFO简单但不适合共享集群;容量调度器是默认调度器,支持多队列并发执行;公平调度器则根据权重分配资源,支持抢占和延迟调度策略,提高集群效率。
摘要由CSDN通过智能技术生成

yarn中资源调度器共分为三种

在这里插入图片描述

1.FIFO调度器
 优点是简单易懂而且不需要配置, 但是它不适合共享集群:
   在FIFO调度器中只有一个队列,而且同一时刻只能有一个作业执行,就会出现有一个大作业A一直在运行,而小文件B要阻塞到作业A执行完毕才能运行的情况
2.容量调度器
 1.它是yarn默认使用的调度器,如果不指定队列,那么应用都会被放在default的默认队列中(就和FIFO没区别了),
 2.如果在配置文件capacity-scheduler.xml中设置了队列(同时可以指定每个队列的最大容量比例),那么每一个队列都相当于一个FIFO,但是多个队列可以同时执行作业
 3.弹性队列:如果队列A中有多个作业,并且队列A容量不够用了,这时会把空闲的资源分配给队列A,但是不会超过设置的对大容量。
 设置最大容量是为了防止队列A抢占过多的资源,导致别的队列只能阻塞到队列A执行作业完毕或者等待别的队列释放空间
3.公平调度器
 1.要使用公平调度器,首先要配置yarn

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值