Quota

引入Quota的原因

当有多个framework同时运行时,资源分配器可能分配给一个framework的资源会超过使用DRF算法获得资源数量。在Mesos中不存在为framework将来会使用的资源进行资源限额的机制,该机制与资源预留相似,但是,即使是动态资源预留其也只是面向agent的,并且个别的agent也有可能挂掉。

Quota简介

在Mesos 0.27引入了对quota机制的支持,通过quota可以设置某一个role可以收到的最小的资源的数量,前提是整个集群拥有的可以个资源超过quota中配置的资源,当然,也有可能该role收到的资源邀约可能会超过quota中配置的资源数量,因为目前quota中只对role使用的资源的下限进行了限制,而对role可以使用的资源的上限没有进行限制。

Quota与资源预留

  1. 资源预留是面向agent的,其将会与agent绑定到一起,即制定预留的资源必须在某一台机器上,而quota是面向role,对role所使用的资源所在的机器没有限制。
  2. quota仅仅通过管理集群的管理员通过http endpoint进行管理,而动态资源预留(资源预留分为动态和静态资源预留两种)通过已经被授权的framework进行设置

Quota使用优点与局限

场景1:贪婪的framework

现在在集群中有两个framework在运行,frameworkA以rA的role运行,frameworkB以rB的role运行。现在整个集群只有一个CPU的资源可以供framework供使用,先有100个CPU,frameworkA需要使用10个CPU并且CPU现在处于闲置状态,framework贪婪地使用了剩下的所有的CPU。如果没有quota,fameworkA通过fair share得到50个CPU,其中40个都没有办法得到使用。因此在此场景下比较适合使用quota。

场景2:新framework申请资源

在场景1的基础上,如果现在frameworkB使用了所有的资源,也就是100个CPU,需要运行一个新的frameworkC,在rameworkB没有运行完之前,它将不会收到任何的资源邀约。在这种场景下不适合使用quota,建议使用资源池或者引入可抢占运行任务。

通过http endpoint配置quota

支持的操作
  1. POST:设置一个新的quota
  2. DELETE: 删除一个已经存在的quota
  3. GET:查询已经存在的quota

注意

  1. 不可以对已经存在的quota进行更新,因此,当需要修改之前的quota时,需要删除已经存在的quota,再创建一个新的quota。
  2. 设置一个新的quota可能会影响集群上其他的framework,因为相当于为其他framework预留了资源
  3. 通过quota仅可以设置标量级的资源(端口号不可以设置)
Post

工作流程

quota的两个生命周期:

  1. master处理quota请求
  2. 资源分配器执行quota
处理quota请求

当提交一个quota设置请求时,执行以下几个步骤:

  1. 认证HTTP请求
  2. 解析并使请求生效
  3. 授权http请求
  4. 如果没有force标记就执行容量启发检查
  5. 为了提高容错能力存储quota
  6. 撤销outstanding offers

当删除一个quota配置时:
1. 认证HTTP请求
2. 解析并使请求生效
3. 授权http请求
4. 如果没有force标记就执行容量启发检查
5. 删除quota

容量启发式检查

错误地配置quota可能导致整个集群的资源没有办法分配给任何的framework,例如:如果通过quota为某一个role预留1000个CPU,但是整个集群只有100个CPU,在这种情况下,当master接收到quota的请求之后,没有资源邀约会被发送给任何其他的framework。

为了避免以上这个情况的出现,master提供了一种容量启发式检查确保quota请求能够被集群当前可提供的资源满足。容量启发式检查是通过检查quota配置的全部资源(包括新的quota请求资源)是否超过集群的资源(除了静态预留的资源)

通过设置一个force标志可以绕过容量启发式检查。比如:可以设置一个quota的资源超过当前集群可以使用的资源 ,并同时设置force标志,前提是你知道后续会向集群中添加更多的机器资源。

撤销 Outstanding Offers

当设置一个新的quota,master撤销Outstanding Offers,这就避免了集群剩余的没有分配的资源不能满足quota的配置, 但是Outstanding Offers中还有足够的资源没有被framework所使用的情况的出现。因此,我们使用以下规则撤销Outstanding Offers:

  1. 撤销的资源至少和quota中的资源一样多
  2. 如果来自某一个agent的最少的资源邀约被撤消了,那么来自这个agent的所有的资源邀约将被撤销
  3. 3.
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值