hadoop中NameNode节点CPU使用量高 解决方案（亲测）

最新推荐文章于 2020-10-03 11:22:39 发布
最新推荐文章于 2020-10-03 11:22:39 发布
阅读量4.8k 收藏 5
点赞数 1
分类专栏： hadoop 文章标签： hadoop NameNode CPU
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_30498935/article/details/81986242
版权

集群中任务执行超慢，查原因

top一下

查看19118进程 

发现这个节点是NameNode节点

然后

ps aux |grep 19118

jstat -gcutil 19118 1000 1000查看jvm GC

GC超高

问题就是namenode负载太高，内存不够用导致CPU飙升

解决方案调整hadoop_namenode_heapsize参数调到16G（按照集群情况定）

HADOOP_SECONDARYNAMENODE_OPTS="-Xmx16384m"（namenode和SecondaryNameNode保持一致）

然后重启NameNode和SecondaryNameNode

观察GC回收状况

 

恢复正常

沉寂在数据中
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
如何有效提高namenode性能
lvhdbb的博客
07-15 790
In this test, use NNThroughputBenchmark to create directories, the dirs parameter is always 10000, and dirsPerDir is 128. Cpu cores is 8. set handler count to 2 <property> <name...
【Hadoop】超大规模集群大批量写操作引发Namenode性能瓶颈
m0_37956758的博客
09-12 1152
namenode 单一锁机制
HDFS NameNode重启优化
浩先生的博客
03-18 889
在Hadoop集群整个生命周期里，由于调整参数、Patch、升级等多种场景需要频繁操作NameNode重启，不论采用何种架构，重启期间集群整体存在可用性和可靠性的风险，所以优化NameNode重启非常关键。
Hadoop集群占用系统态Cpu较高问题解决
骑猪喝咖啡
05-04 5470
Hadoop是个高密集型内存运算系统，这个改动似乎给它带来了副作用。理论上运算型Java程序应该更多的使用用户态CPU才对，Cloudera官方也推荐关闭THP。 echo never > /sys/kernel/mm/redhat_transparent_hugepage/enabled echo never > /sys/kernel/mm/redhat_transparent_hugepage/defrag
Hadoop NameNode高并发（修改元数据）解决方案
breakout_alex的博客
07-21 929
本文我们来看看，如果大量客户端对NameNode发起高并发(比如每秒上千次)访问来修改元数据，此时NameNode该如何抗住? 问题源起 我们先来分析一下，高并发请求NameNode会遇到什么样的问题。 大家现在都知道了，每次请求NameNode修改一条元数据(比如说申请上传一个文件，那么就需要在内存目录树中加入一个文件)，都要写一条edits log，包括两个步骤： 写入本地磁盘。 通过网络传输给JournalNodes集群。 但是如果对Java有一定了解的同学都该知道多线程并发安全问题吧?
Hadoop之NameNode Federation图文详解
08-26
Hadoop的NameNode Federation是HDFS（Hadoop Distributed File System）中的一种架构设计，旨在解决NameNode的扩展性、隔离性和性能问题。本篇文章将对NameNode Federation的架构设计、实现原理和优点进行详细介绍。...
hadoop动态增加和删除节点方法介绍
09-30
4. **刷新NameNode**：在NameNode节点上，使用`dfsadmin`命令刷新节点列表，确保NameNode知道新节点的存在： ``` bin/hdfs dfsadmin -refreshNodes ``` 并运行`start-balancer.sh`来平衡集群的存储负载： ``` ...
hadoop （多节点）环境搭建
05-05
1. 配置 Namenode 节点，使用命令 `ssh-keygen -t rsa`。 2. 配置 Datanode 节点，使用命令 `ssh-keygen -t rsa`。 3. 配置 Hadoop 集群，使用命令 `hadoop`。 搭建 Hadoop 环境需要安装 Ubuntu 操作系统、安装 ...
hadoop相关图片.rar
06-02
在IT行业中，Hadoop是一个广泛使用的开源框架，主要用于大数据处理和存储。这个压缩包文件“hadoop相关图片.rar”显然包含了一些与Hadoop相关的图像资源，可能是为了帮助解释和理解Hadoop架构及其工作原理。从标签中...
hadoop2.0 2个namenode 2个datanode 部署
01-16
Hadoop 的分布式文件系统（HDFS）提供了高可用性和高性能的文件存储解决方案。它可以 store 大量数据，并提供快速的数据访问和检索功能。 小结 在这个部署中，我们使用 Hadoop 2.0 在两个 Ubuntu 服务器上部署了...
【故障排查】DataNode进程占用大量CPU，导致服务器夯死
草根聪的生活
06-08 2339
大声道
hdfs某台服务器datanode服务占用cpu过高
wyl9527的博客
08-28 2412
1、问题描述 查看一下6834的进程是hadoop的datanode服务，可以看到cpu负载过高。2、解决方法（1） 关闭大页内存：echo never > /sys/kernel/mm/redhat_transparent_hugepage/defrag && echo never > /sys/kernel/mm/redhat_transparent_hugepage/enabled
Hadoop namenode无限重启故障
h952520296的博客
07-07 742
中午接到一个同事的消息，说一个有200多个dn节点的集群（CDH）hive没办法创建分区了。重启了多次，都没有效果。后来发现namenode也一直出现故障。 收到消息，就联机上去看了一下，果然hive的命令全部都挂起来了，hadoop fs 命令也一样被挂起。在CDH 的管理界面上检查了一下NN节点的状态，发现NN有问题。因为是生产环境，已经有半天没有数据上报了。运维的同事都比较着急。 没办法，先来常规吧，重启HDFS服务，等了10多分钟，NN状态正常了两分钟，又挂掉。几次下来，放弃了这个方法。仔细研究
namenode性能问题
qq_25418883的博客
04-13 2545
影响namenode内存主要因素：NameNode常驻内存主要被Namespace和BlockManager使用，二者使用占比分别接近50%。其它部分内存开销较小且相对固定，与Namespace和BlockManager相比基本可以忽略。Namespace：维护整个文件系统的目录树结构及目录树上的状态变化；BlockManager：维护整个文件系统中与数据块相关的信息及数据块的状态变化；数据增长n...
内存管理——分页分段
weixin_40460171的博客
10-03 384
目录虚拟内存内存分段内存分页 操作系统知识脑图 虚拟内存 问题：单片机的CPU直接操作内存的【物理地址】，在这种情况下，内存中无法同时运行两个程序。假设程序A在200写入一个新值，就会擦掉程序B存放在相同位置上的所有内容。操作系统如何解决这个问题？ 解：引入虚拟内存。即让操作系统为每个进程分配独立的一套【虚拟地址】，如果程序访问虚拟地址时，由操作系统转换成不同的物理地址，这样不同程序运行，写入的是不同的物理地址，冲突解决了。 问题：操作系统如何管理虚拟地址与物理地址之间的关系？ 解：主要有两
HDFS DataNode堆内存使用率过高，HDFS存储量不够导致宕机
qq_35583154的博客
04-03 5729
今天来公司发现hadoop集群出现了HDFS DataNode堆内存使用率超过阈值的告警，然后查看集群各个节点的状态发现有一个数据节点宕机了，经过一上午的处理我来聊聊解决的几个方法： 目录： 1、将HDFS备份数降低 2、删除无用HDFS数据和Hbase表格 3、设置kafka的日志时间 4、删除本机无用文件 5、清理Trash回收站 6、Balancer重新平衡 1、将备份数降低 1）将默认的备...
Hadoop性能调优、YARN的内存和CPU配置
qq_41641810的博客
02-27 659
&lt;main&gt;         &lt;div class="blog-content-box"&gt;     &lt;div class="article-header-box"&gt;         &lt;div class="article-header"&gt;             &lt;div class="article-title-
hadoop集群的datanode负载高问题的排查过程记录
weixin_34150224的博客
06-20 864
为什么80%的码农都做不了架构师？>>> ...
[Hadoop性能调优]
热门推荐
程序车轮
05-11 1万+
一、 Hadoop概述   随着企业要处理的数据量越来越大，MapReduce思想越来越受到重视。Hadoop是MapReduce的一个开源实现，由于其良好的扩展性和容错性，已得到越来越广泛的应用。 Hadoop实现了一个分布式文件系统（Hadoop Distributed File System），简HDFS。HDFS有高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提...
Hadoop集群namenode打不开
最新发布
05-19
如果Hadoop集群的Namenode无法启动，可能是由于以下原因之一： 1.配置错误：请检查Hadoop配置文件中的错误。特别是，请确保Hadoop配置文件中指定的目录存在且具有正确的权限。 2.文件系统损坏：Namenode无法读取损坏的文件系统。请运行fsck命令来检查文件系统是否有损坏。 3.内存不足：Namenode需要大量内存才能运行。如果您的系统没有足够的内存，则Namenode可能无法启动。 4.端口冲突：请确保Namenode使用的端口未被其他应用程序占用。可以使用lsof命令检查正在使用的端口。 5.网络连接故障：请确保Hadoop集群中的所有节点都可以相互通信。可以使用ping命令测试节点之间的网络连接。 您可以检查日志文件，查看更多有关Namenode无法启动的详细信息。常见的日志文件包括hadoop-hdfs-namenode-<hostname>.log，hadoop-hdfs-secondarynamenode-<hostname>.log和hadoop-hdfs-datanode-<hostname>.log。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值