Yarn公平调度器Fair Scheduler根据用户组分配资源池

本文介绍了如何在Yarn中配置公平调度器(Fair Scheduler),将资源池按用户组进行分配,确保开发、测试及不同业务用户之间的任务互不影响。详细展示了资源配置、权限控制以及调度模式的设置,并提到了客户端用户组信息在ResourceManager中的重要性,以及如何刷新配置以应用变更。
摘要由CSDN通过智能技术生成

假设在生产环境Yarn中,总共有四类用户需要使用集群,开发用户、测试用户、业务1用户、业务2用户。为了使其提交的任务不受影响,我们在Yarn上规划配置了五个资源池,分别为 dev_group(开发用户组资源池)、test_group(测试用户组资源池)、business1_group(业务1用户组资源池)、business2_group(业务2用户组资源池)、default(只分配了极少资源)。并根据实际业务情况,为每个资源池分配了相应的资源及优先级等。

更多精彩内容点我学

ResourceManager上fair-scheduler.xml配置如下:

  1. <?xml version=“1.0”?>
  2. <allocations>  
  3.   <!– users max running apps –>
  4.   <userMaxAppsDefault>30</userMaxAppsDefault>
  5. <queue name=“root”>
  6. <aclSubmitApps> </aclSubmitApps>
  7. <aclAdministerApps> </aclAdministerApps>
  8.  
  9.   <queue name=“default”>
  10.           <minResources>2000mb,1vcores</minResources>
  11.           <maxResources>10000mb,1vcores</max
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值