Hadoop-2.4.1学习之容量调度器

49 篇文章 21 订阅 ¥9.90 ¥99.00
29 篇文章 18 订阅 ¥9.90 ¥99.00

       调度器在计算机世界中占有重要地位,从操作系统到大型应用系统都可见其身影,做为分布式应用系统的典范Hadoop以可插拔的方式提供了调度器的功能,这为实现自定义的调度器提供了接口。Hadoop内置了两种类型的调度器,分别为:CapacityScheduler<和FairScheduler,本篇文章将学习CapacityScheduler。CapacityScheduler允许多个用户共享一个大的集群,并为每个用户分配指定的容量,这样每个用户的应用程序就可以在所分配的容量范围内快速获得资源,CapacityScheduler还可以最大化集群的吞吐率和使用率。

       考虑下面的场景,假设存在这样的一个公司或者组织,该组织拥有自己的计算集群,该集群拥有充足的容量在峰值或接近峰值时满足该组织的SLA(服务等级协议)。由于只有该组织使用该集群,尽管某些时刻集群的使用率会很高(峰值),但也会出现使用率偏低的情况,此时集群中的资源将处于闲置的状态,而我们所希望的是尽可能地压榨集群的计算能力,显然存在浪费资源的情况。另外如果还有其它集群,那么还需要付出额外的精力管理维护其它集群。如果能够将上述两种情况结合起来,即将集群的数量降为一个,将所有集群上的应用转移到该单一的集群上,并合理在应用间分配资源,那么既可以降低维护管理成本由提高了集群的吞吐率和使用率。以上场景也使用于多个阻止共享集群的情况,并且由于不用建设私有集群而降低了资金投入,但是不同组织之间可能担心由于其它组织对资源的占用而影响他们自身的SLA。

       针对上述场景,CapacityScheduler能够在提供容量保证的同时确保不同组织或用户共享集群的资源。除此之外,CapacityScheduler还能够使组织或用户访问没有被其它组织或用户使

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

skyWalker_ONLY

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值