YARN的内存管理 与 CDH集群管理之角色组

0x00前言

现在一般都使用CM来管理集群,这是一个很好的管理集群工具,使集群便于维护,其中有一点他们推荐一些默认的配置,省去了我们手动选择的烦恼。但是还是由不少小毛病,最近就遇到了分配给YARN管理的集群资源太少的问题。

主机配置如下(每台15G的内存):
在这里插入图片描述

YARN集群实际管理的内存(只有3G):

在这里插入图片描述

0x01 YARN管理的内存为什么这么小?大小由什么决定?

1:YARN 的RM 所管理的集群内存小是因为分配给YARN RM少,主要由以下参数去指定。

#该节点上YARN可使用的物理内存总量
yarn.nodemanager.resource.memory-mb

2: 现在YARN 集群RM的资源暂用情况
在这里插入图片描述

0x02 YARN 暂用内存的调整(使用CDH的角色组来管理)

yarn.nodemanager.resource.memory-mb 这个参数实在yarn-site.xml里的,如果去每个节点yarn-site.xml上更改就太麻烦了,既然我们用到了CDH集群,那么可以通过它修改,CDH在这之上做了抽象,靠角色组去管理节点的内存资源

  1. 创捷角色组:通过以下创建各类的角色组
    在这里插入图片描述在这里插入图片描述

  2. 为角色组分配资源
    描述:角色组没有单独的编辑页面(这个点值得吐槽),需要到具体这个角色组所管理的对象这里设置。在本例中由于我们设置的是每个NodeManager所占用的内存,就到对应的配置文件里来更改在这里插入图片描述

  3. 为角色组添加组员
    在这里插入图片描述
    在这里插入图片描述

  4. 重启与YARN相关的集群就好了
    在这里插入图片描述

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值