Hadoop ResourceManager资源调度器

  1. FIFO队列

    image-20201021151340433

  2. 容量调度器(Capacity Scheduler)(Yarn默认使用)

    image-20201021151357630

    1. 支持多个队列,每个队列可分配一定的资源量,每个队列采用FIFO策略
    2. 对同一用户提交的作业所占资源量进行限定
    3. 有一个队列专门运行小任务(专门设置一个小队列会预先占用一定资源,会导致大任务的执行时间落后于FIFO调度器的时间)
    4. 将应用放置在哪个队列中,取决于应用本身(可以修改)。
    5. 队列属性、数量均可以修改
  3. 公平调度器(Fair Scheduler)

    image-20201021151411972

    1. 不需要预先占用一定的系统资源,Fair调度器会为所有运行的job动态的调整系统资源。
    2. 当第一个大job提交时,只有这一个job在运行,此时它获得了所有集群资源;当第二个小任务提交后,Fair调度器会分配一半资源给这个小任务,让这两个任务公平的共享集群资源。
    3. 从第二个任务提交到获得资源会有一定的延迟,因为它需要等待第一个任务释放占用的Container。小任务执行完成之后也会释放自己占用的资源,大任务又获得了全部的系统资源。最终的效果就是Fair调度器即得到了高的资源利用率又能保证小任务及时完成.

    参考:

    带你入坑大数据(四)— 资源调度框架Yarn

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值