记kafka partition数据量过大导致不能正确重启

最新推荐文章于 2024-08-03 00:55:22 发布

红黑的米兰

最新推荐文章于 2024-08-03 00:55:22 发布

阅读量2.4w

点赞数 3

分类专栏：分布式系统疑难杂症

本文链接：https://blog.csdn.net/guoyuqi0554/article/details/51253701

版权

博客内容概述：在Kafka集群中遇到Partition数据量过大，导致重启时出现ReplicaFetcherThread错误，主要表现为SocketTimeoutException和网卡负载过高。通过调整topic的retention.ms和server的log配置来限制数据量，但可能引发数据丢失风险。解决方案包括谨慎的Broker重启策略，以避免数据同步问题。

摘要由CSDN通过智能技术生成

某台kafka服务器负载过高，机器挂掉一段是时间后，kill掉占用内存的进程，然后重启kafka服务，但是一直不能完成启动和数据同步，日志如下

fset 0 to broker BrokerEndPoint(11,192.168.207.79,9092)] ) (kafka.server.ReplicaFetcherManager)
[2016-04-26 19:16:33,274] INFO [ReplicaFetcherManager on broker 13] Removed fetcher for partitions [ifindnotice_lp_queue,3],[newifindreport_lp_queue,1],[eventoutputqueue,0],[newifindreport_lp_queue,0],[NewEventOutputQueueLuyang,0],[weibo_dlstat_queue,0],[test_dlstat_queue,0],[investqa_lp_queue,2],[forum_yuqing_queue,3],[soniu_dlstat_queue,0] (kafka.server.ReplicaFetcherManager)
[2016-04-26 19:16:53,909] WARN [ReplicaFetcherThread-0-14], Error in fetch kafka.server.ReplicaFetcherThread$FetchRequest@9c1b776. Possible cause: java.net.SocketTimeoutException: No response received within 30000 ms (kafka.server.ReplicaFetcherThread)
[2016-04-26 19:16:53,910] WARN [ReplicaFetcherThread-0-12], Error in fetch ka