Kafka客户端频繁FullGC

最新推荐文章于 2023-03-28 19:28:52 发布
最新推荐文章于 2023-03-28 19:28:52 发布
阅读量1.5k 收藏
点赞数 2
分类专栏： Java 文章标签： kafka 分布式 java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cRZ_7/article/details/122516502
版权

生产者客户端采用Java编写，采用spring的那一套东西

在CPU高负载下，Kafka写入延时很高（并不是Kafka不行，而是生产者CPU限制了），导致频繁的FullGC，内存dump下来看，是回调对消息的持有占据了太多的内存，导致内存爆掉，如果消息可以容忍丢失的，调低超时时间，默认60s太长了，正常就几ms，然后加上相关的监控，及时问题排查扩容啥的

虽然kafka有个buffer的大小可以调整，但是这个调整的是发送缓冲区，消息确实可以一直发直到buffer内存满后报超时丢弃，但是发送是很快的，消息会一直发送，但是响应的处理却跟不上（CPU限制），导致消息回调（这个会包含发送的消息）占满了内存，最终还是会内存爆掉

可能分析的不对，有大神还请指教

程序小法师
关注
专栏目录
记一次kafka集群频繁crash的排查过程
HULK一线技术杂谈
03-15 987
01概述kafka集群中的某些broker会随机重启，并且重启没有什么规律。broker重启对于client端使用层面是无感知的，但是在数据一致性、稳定性方面存在风险。broker重启时，...
kafka consumer gc问题探讨
Keep Thinking And Learning
03-14 1897
kafka是一种高性能的分布式消息系统，通常用于大规模的数据处理， 其吞吐量是非常高的，我们的蛮多业务线都用到了kafka，包括实时模型，用户标签，实时点击率等，在开发的过程中间，踩了一些坑，其中consumer gc问题便碰到过几次，在这里探讨下可能的解决方式。
【架构设计的艺术】Kafka如何通过精妙的架构设计优化JVM GC问题？【石杉的架构笔记】...
weixin_33896726的博客
05-06 461
个人公众号：石杉的架构笔记（ID:shishan100）目录1、Kafka的客户端缓冲机制2、内存缓冲造成的频繁GC问题3、Kafka设计者实现的缓冲池机制4、总结一下“ 这篇文章，同样给大家聊一个硬核的技术知识，我们通过Kafka内核源码中的一些设计思想，来看你设计Kafka架构的技术大牛，是怎么优化JVM的GC问题的？1、Kafka的客户端缓冲机制首先，先得给大家明确一个事情，那就是在客户端发...
kafka内存缓冲池机制造成的频繁GC问题
weixin_59295776的博客
11-28 1883
kafka发送消息时，会将多条消息组成一个batch再进行批量发送，这样做的目的是可以提高kafka的吞吐量，不必每次来一条消息就进行一次网络请求，那么这些批量的消息发送出去后，必然还存在于内存中，等待的将是JVM的GC，当消息越来越多时，带来的问题就是频繁的GC，也就是会造成频繁的STW。 针对上述问题，于是kafka就设计出了缓冲池的概念，kafka先将一片内存区域固定下来专门用于存放batch，每次从缓冲池申请batch，使用完后再还回缓冲池，这样就避免了每次对于batch的申请与回收，解决了JVM
Kafka CPU使用率高排查思路及解决方案
大叶子不小的博客
10-14 4505
b) Kafka配置中查看num.io.threads、num.network.threads、num.replica.fetchers配置，num.io.threads和num.network.threads配置一般建议磁盘个数的倍数，但不能超过CPU核数。c) 分区设置不合理：分区一般设置为节点个数的倍数，如果分区设置不合理，所有的生产和消费都集中在某个节点上，也可能导致CPU高。如果句柄数高，排查使用句柄数高的进程是否有句柄泄漏；3） top -H -p 进程pid 查看CPU使用率高。
一次频繁Full GC的排查过程
热门推荐
沈鸿斌的博客
10-03 1万+
问题描述最近公司的线上监控系统给我推送了一些kafka lag持续增长的消息，我上生产环境去看了相应的consumer的情况，发现几台机器虽然还在处理消息，但是速度明显慢了很多。问题猜测与验证我猜测是JVM频繁做Full GC，导致进程也跟着频繁卡顿，处理消息的速度自然就慢了。为了验证这个想法，先用jstat看看内存使用情况： jstat -gcutil 1 1000 #1是进程号 结果如我所
Kafka客户端实践与原理
m0_54065725的博客
12-27 1263
一、客户端API 生产者（Producer） send(ProducerRecord<K, V> record) 发送一条消息到broker，异步发送，无回调函数 send(ProducerRecord<K, V> record, Callback callback) 发送一条消息到broker，异步发送，有回调函数 partitionsFor(String topic) 获取topic的分区元数据 metrics() 获取生产者的指标数据 flush() 把缓存中的数据强制刷到磁
图解 Kafka 源码实现机制之客户端缓存架构
lxmtim的博客
09-23 1047
这里，我们一起来总结一下这篇文章的重点。1、带你先整体的梳理了 Kafka 客户端消息批量发送的好处。2、通过一个真实生活场景类比来带你理解 RecordAccumulator 内部构造，并且深度剖析了消息是如何在客户端缓存的，以及内部各组件实现原理。3、带你深度剖析了 Kafka 客户端非常重要的 BufferPool 、CopyOnWriteMap 的实现原理。
Kafka的这个设计，优化了JVM GC问题
JavaMonsterr的博客
06-08 229
大家都知道Kafka是一个高吞吐的消息队列，是大数据场景首选的消息队列，这种场景就意味着发送单位时间消息的量会特别的大，那么Kafka如何做到能支持能同时发送大量消息的呢？答案是Kafka通过批量压缩和发送做到的。我们知道消息肯定是放在内存中的，大数据场景消息的不断发送，内存中不断存在大量的消息，很容易引起GC频繁的GC特别是full gc是会造成“stop the world”，也就是其他线程停止工作等待垃圾回收线程执行，继而进一步影响发送的速度影响吞吐量，那么Kafka是如何做到优化JVM的GC问题的呢
Kafka 为了避免 Full GC，竟然还在发送端设计了内存池，自己管理内存，太巧妙了...
微信搜：import_bigdata，大数据领域硬核原创作者
05-06 505
一、开篇引出一个 Full Gc 的问题在上一篇文章中，我们讲到了 Kafka 发送消息的八个流程，并且着重讲了 Kafka 封装了一个内存结构，把每个分区的消息封装成批次，缓存到内存里。...
Kafka是如何优化JVM Full GC的
qq_20004115的博客
02-25 425
在 Kafka客户端，会有缓冲池的机制 Kafka客户端发送的消息不会立马持久化到磁盘当中。 而是会放到一个Batch中当Batch填满之后，才会持久化到磁盘中 当遇到高并发的时候，所有的Batch空间瞬间被填满，还没持久化，就会触发JVM GC Kafka的处理策略是创建了个缓冲池 放了很多块内存空间，如果你需要新的 Batch 了，就可以直接从 这个缓冲池拿走内存空间就 ok 了？ 然后如果 Batch 发送出去了之后，再把内存空间收回来就好了 这种设计类似于Java中线程池。核心思想一空间换时间。 .
Young GC过于频繁
最新发布
厚积薄发
03-28 5761
YoungGC频繁一般是内存问题，在优化代码降低频率的同时，也需关注某个时间段的累计耗时。总的来说，在CPU Quota允许的范围内，GC总耗时越少越好，GC频率反倒不是那么重要。展开: JVM / 内存 / GC / ClassLoader这一行，找到监控面板：GC耗时 和 GC原因与频次。Young GC过于频繁，说明JVM内存分配压力大，可能是Young区比较小或者代码加载到内存的数据过多。Young GC频繁，通常不用立即处理，大多需要优化代码。可参考原因部分，优化代码，调整GC参数。
Kafka如何在千万级别时优化JVM GC问题？
李文良的博客
06-17 1万+
大家都知道Kafka是一个高吞吐的消息队列，是大数据场景首选的消息队列，这种场景就意味着发送单位时间消息的量会特别的大，那既然如此巨大的数据量，kafka是如何支撑起如此庞大的数据量的分发的呢？今天我们从kafka架构以如何优化GC两个方面讲解. kafka架构 既然要说kafka是如何通过内存缓冲池设计来优化JVM的GC问题，那么，如果不清楚kafka 的架构设计，又怎么更好的调优呢？起码的我们要知道基础的才能往更好的出发呀，对吧？先来看一些技术名词： Topic：用于划分Message的逻辑概念，一个T
kafka问题总结与优化
qq_36250202的博客
06-27 1020
​​​​​​​​​​​​​​ 总结：kafka 第一，怎么解决kafka日志文件占磁盘空间过大的问题 1）配置文件：producer.properties 参数： compression.codec：//是否压缩,0代表不压缩,1代表用gzip压缩,2代表用snappy压缩 compressed.topics：//如果要...
Kafka如何通过经典的内存缓冲池设计来优化JVM GC问题？
Java架构师联盟
05-18 867
大家都知道Kafka是一个高吞吐的消息队列，是大数据场景首选的消息队列，这种场景就意味着发送单位时间消息的量会特别的大，那既然如此巨大的数据量，kafka是如何支撑起如此庞大的数据量的分发的呢？ 今天我们从kafka架构以如何优化GC两个方面讲解 kafka架构 既然要说kafka是如何通过内存缓冲池设计来优化JVM的GC问题，那么，如果不清楚kafka 的架构设计，又怎么更好的调优呢？起码的我们要知道基础的才能往更好的出发呀，对把 先来看技术名词 Topic：用于划分Message的逻辑概念，一
kafka gc日志导致比较累赘的低端线下测试环境磁盘被写满了的处理方案
xiao_jun_0820的专栏
11-29 3449
kafka home bin目录下面有个kafka-run-class.sh脚本，其中有定义会打印详细的kafka gc日志 while [ $# -gt 0 ]; do   COMMAND=$1   case $COMMAND in     -name)       DAEMON_NAME=$2       CONSOLE_OUTPUT_FILE=$LOG_DIR/$DAEM
kafka jvm参数介绍
walt_xu的专栏
06-05 5171
java -Xmx6G #设置JVM最大可用内存 -Xms1G #设置JVM初始可用内存 -server #Server模式 -XX:+UseG1GC #G1垃圾收集器，用于服务器端、大内存、多CPU情景的垃圾收集器 -XX:MaxGCPauseMillis=20 #设置最大GC停顿时间(GC pause time)指标(target). 这是一个软性指标(soft
JVM FULL GC太频繁，CPU占用率过高问题
weixin_33757609的博客
09-11 1362
一，问题描述 今天上午时候，kafka的一个topic涌上来超过平常值的一堆数据，消费客户端就开始出现了几个明显的问题： 1，首先是ZK连接超时 2，CPU飙升到400% 3，观察程序GC，发现老年代，S0，Eden这三个，100%； 4，线程数目太多 二，问题分析 ...
kafka GC配置
weixin_30398227的博客
01-30 516
若用户使用 Java 7，那么在选择 GC 收集器时可以根据以下法则进行确认• 如果用户机器上的 CPU 资源非常充裕，那么推荐使用 CMS 收集器 这样可以充分利用多 CPU 执行并发垃圾收集 启用方法为－ :XX:+U seCurrentMarkSweepGC• 相反地，则使用吞吐量收集器，即所谓的 throughput collector 这样不会挤占紧张的CPU 资源，使 Kafka br...
Kafka客户端管理工具：高效维护与操作指南
资源摘要信息:"kafka客户端管理工具" Kafka 是一个分布式流处理平台，被广泛应用于大数据处理领域。它具有高性能、可水平扩展和分布式的特点，能够处理实时数据流。Kafka 由 LinkedIn 开发，现在是一个开源项目，由...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值