引入Quota的原因
当有多个framework同时运行时,资源分配器可能分配给一个framework的资源会超过使用DRF算法获得资源数量。在Mesos中不存在为framework将来会使用的资源进行资源限额的机制,该机制与资源预留相似,但是,即使是动态资源预留其也只是面向agent的,并且个别的agent也有可能挂掉。
Quota简介
在Mesos 0.27引入了对quota机制的支持,通过quota可以设置某一个role可以收到的最小的资源的数量,前提是整个集群拥有的可以个资源超过quota中配置的资源,当然,也有可能该role收到的资源邀约可能会超过quota中配置的资源数量,因为目前quota中只对role使用的资源的下限进行了限制,而对role可以使用的资源的上限没有进行限制。
Quota与资源预留
- 资源预留是面向agent的,其将会与agent绑定到一起,即制定预留的资源必须在某一台机器上,而quota是面向role,对role所使用的资源所在的机器没有限制。
- quota仅仅通过管理集群的管理员通过http endpoint进行管理,而动态资源预留(资源预留分为动态和静态资源预留两种)通过已经被授权的framework进行设置
Quota使用优点与局限
场景1:贪婪的framework
现在在集群中有两个framework在运行,frameworkA以rA的role运行,frameworkB以rB的role运行。现在整个集群只有一个CPU的资源可以供framework供使用,先有100个CPU,frameworkA需要使用10个CPU并且CPU现在处于闲置状态,framework贪婪地使用了剩下的所有的CPU。如果没有quota,fameworkA通过fair share得到50个CPU,其中40个都没有办法得到使用。因此在此场景下比较适合使用quota。
场景2:新framework申请资源
在场景1的基础上,如果现在frameworkB使用了所有的资源,也就是100个CPU,需要运行一个新的frameworkC,在rameworkB没有运行完之前,它将不会收到任何的资源邀约。在这种场景下不适合使用quota,建议使用资源池或者引入可抢占运行任务。
通过http endpoint配置quota
支持的操作
- POST:设置一个新的quota
- DELETE: 删除一个已经存在的quota
- GET:查询已经存在的quota
注意
- 不可以对已经存在的quota进行更新,因此,当需要修改之前的quota时,需要删除已经存在的quota,再创建一个新的quota。
- 设置一个新的quota可能会影响集群上其他的framework,因为相当于为其他framework预留了资源
- 通过quota仅可以设置标量级的资源(端口号不可以设置)
Post
工作流程
quota的两个生命周期:
- master处理quota请求
- 资源分配器执行quota
处理quota请求
当提交一个quota设置请求时,执行以下几个步骤:
- 认证HTTP请求
- 解析并使请求生效
- 授权http请求
- 如果没有force标记就执行容量启发检查
- 为了提高容错能力存储quota
- 撤销outstanding offers
当删除一个quota配置时:
1. 认证HTTP请求
2. 解析并使请求生效
3. 授权http请求
4. 如果没有force标记就执行容量启发检查
5. 删除quota
容量启发式检查
错误地配置quota可能导致整个集群的资源没有办法分配给任何的framework,例如:如果通过quota为某一个role预留1000个CPU,但是整个集群只有100个CPU,在这种情况下,当master接收到quota的请求之后,没有资源邀约会被发送给任何其他的framework。
为了避免以上这个情况的出现,master提供了一种容量启发式检查确保quota请求能够被集群当前可提供的资源满足。容量启发式检查是通过检查quota配置的全部资源(包括新的quota请求资源)是否超过集群的资源(除了静态预留的资源)
通过设置一个force标志可以绕过容量启发式检查。比如:可以设置一个quota的资源超过当前集群可以使用的资源 ,并同时设置force标志,前提是你知道后续会向集群中添加更多的机器资源。
撤销 Outstanding Offers
当设置一个新的quota,master撤销Outstanding Offers,这就避免了集群剩余的没有分配的资源不能满足quota的配置, 但是Outstanding Offers中还有足够的资源没有被framework所使用的情况的出现。因此,我们使用以下规则撤销Outstanding Offers:
- 撤销的资源至少和quota中的资源一样多
- 如果来自某一个agent的最少的资源邀约被撤消了,那么来自这个agent的所有的资源邀约将被撤销
- 3.