Yarn
文章平均质量分 93
peidezhi
这个作者很懒,什么都没留下…
展开
-
yarn WEB UI及reserved memory、spark WEB UI
1 yarn web ui: Apps Submitted:已提交的应用 Apps Completed:已完成的应用 Apps Running:正在运行的应用 Containers Running:正在运行的容器 Memory Total:集群总内存 Memory Used:已使用内存 VCores Total:集群 CPU 总核数 VCores Used:已使用的 CPU 核数 Memory Reserved:预..原创 2021-03-02 14:27:01 · 5071 阅读 · 1 评论 -
YARN JOB HISTORYRI日志故障: Aggregation may not be complete
1 运行的spark job和MR ,HIVE,flink都无法查看yarn容器运行日志。查看yarn job历史服务器运行日志,发现如下错误信息: yarn job history 根据如下提示信息,可以知道是哪个节点。如下为hadoop002节点。job history进程日志信息位于: /var/log//var/log/hadoop-mapreduce/hadoop...原创 2020-04-20 17:04:23 · 1850 阅读 · 0 评论 -
CDH yarn参数设置
每节点管理器总的cpu核数 (一般设置等于cpu总核数) 整个yarn资源池核数=node数 * 此参数yarn.nodemanager.resource.cpu-vcoresApplicationMaster 分配的CPU 核数yarn.app.mapreduce.am.resource.cpu-vcoresMap 任务分配的CPU核数mapreduce.ma...原创 2019-10-24 19:37:33 · 4460 阅读 · 0 评论