【Yarn】NodeManager日志聚合慢问题

最新推荐文章于 2024-06-25 10:17:08 发布

叹了口丶气

最新推荐文章于 2024-06-25 10:17:08 发布

阅读量439

点赞数

分类专栏： HDFS全方位实战 Java语言积累文章标签： hdfs 大数据 hadoop java

本文链接：https://blog.csdn.net/yexiguafu/article/details/123915051

版权

HDFS全方位实战同时被 2 个专栏收录

171 篇文章 149 订阅 ¥29.90 ¥99.00

订阅专栏

Java语言积累

52 篇文章 17 订阅 ¥9.90 ¥99.00

订阅专栏

超级会员免费看

针对用户反馈的Yarn NodeManager日志聚合慢的问题，文章详细描述了日志聚合流程、排查过程及优化思路。通过分析发现，线程池资源限制是主要瓶颈。尝试增大线程池大小并未解决问题，但修改日志聚合逻辑，仅在应用结束时放入任务到线程池，显著改善了性能，95分位的聚合时间降至210ms。然而，部分app因需上传大量container日志导致延迟，可能存在HDFS写入性能问题。

摘要由CSDN通过智能技术生成

背景： 最近经常有用户反馈 nm的日志聚合慢，导致在任务运行完后不能立即看到日志信息。特别是在任务报错的时候不能立即发现问题，体验不好。

目前我们集群的nm日志聚合相关主要的参数大致如下：

yarn.log-aggregation-enable ：true
yarn.log-aggregation.retain-seconds ：259200  （3天）保存聚合的日志时间
yarn.nodemanager.log-aggregation.compression-type ：gz    压缩格式 （+ TFile）
yarn.nodemanager.log-aggregation.roll-monitoring-interval-seconds ：-1  决定什么时候上传日志，如果-1 则为任务执行完才上传
yarn.nodemanager.log-aggregation.num-log-files-per-app ：30  默认，目前 没有开启上面的滚动参数，不生效
yarn.nodemanager.log.retain-seconds ：10800 默认，目前开启 日志聚合，不生效
yarn.nodemanager.remote-app-log-dir ：/app-logs ，hdfs上的目标聚合目录

了解本专栏