Yarn 内存分配管理机制及相关参数配置

128 篇文章 482 订阅 ¥29.90 ¥99.00
本文深入探讨了YARN的内存分配管理机制,包括NodeManager的内存资源配置、任务级别的内存配置,如minimum-allocation-mb、maximum-allocation-mb等参数。了解这些配置对于优化集群性能和避免内存相关问题至关重要。同时,文章提到了Container的概念,它是运行任务的基础,内存配置必须考虑规整化因子,以确保资源的有效利用。
摘要由CSDN通过智能技术生成

1.背景

在这里插入图片描述
理解Yarn的内存管理与分配机制,对于我们搭建、部署集群,开发维护应用都是尤为重要的,对于这方面我做了一些调研供大家参考。

1. yarn的架构

在这里插入图片描述
从上图可以看到 ,当客户向ResourceManager提交 作业时,由AM负责向ResourceManager提出资源申请,和向NameManager(NM)提出task执行 。

也就是说 在这个过程中,ResourceManager负责资源调度,AM 负责任务调度。

几点重要说明:

  1. ResourceManager负责整个集群的资源管理与调度;
  2. Nodemanager(NM)负责单个节点的资源管理与调度;
  3. NodeManager定时的通过心跳的形式与ResourceManager进行通信,报告节点的健康状态与内存使用情况&#x
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值