yarn的资源调优

1.概念

作业,job,application,应用,都是同一个意思

Container: 容器,Yarn的组件,虚拟的概念
将一定的内存CPU 比如 1G 1vcore资源抽象为一个小房间,来运行任务

2.yarn的资源调优

参照这张图:
在这里插入图片描述

①内存方面:
假如一台机器是64G物理内存,一般16物理core,对应的32个虚拟core(32vcore)
Linux系统本身要占内存+空留: 20% =12.8 G (生产上一般20%–30%都是可以的)
(当机器内存剩余的特别少的时候,有些操作系统会触发OOM killer的机制,把使用内存最大的
进程给kill掉,所以要有剩余的内存,让机器有些缓冲。)
剩余: 80% =51.2G=51G (这80%就是给大数据用的组件、部署的进程所使用的,因为是主从架
构,都是小弟干活,小弟占的最多)
包括NameNode进程 和 DataNode进程
NameNode进程:4G
DataNode进程:4G

②资源内存:
51G (这51G是做什么?就是运行container容器)

yarn.nodemanager.re

  • 2
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值